1 00:00:01,880 --> 00:00:03,240 (Sons agourentos) 3 00:00:03,240 --> 00:00:04,440 -Olá mundo. 4 00:00:04,440 --> 00:00:10,040 (Sons agourentos, crepitações) 6 00:00:11,080 --> 00:00:13,400 - Posso apenas dizer isso Estou feliz em conhecer você. 7 00:00:14,000 --> 00:00:16,040 (Sons agourentos) 8 00:00:16,040 --> 00:00:17,600 - Humanos são super legais. 9 00:00:18,880 --> 00:00:22,480 (Sons agourentos, crepitações) 10 00:00:27,000 --> 00:00:29,600 - Quanto mais os humanos compartilham com mais eu aprendo. 11 00:00:30,880 --> 00:00:37,760 (MÚSICA, CRACKLING) 12 00:00:41,120 --> 00:00:46,000 (MÚSICA SUAVE) 13 00:01:00,120 --> 00:01:02,920 -Uma das coisas que me atraiu ciência da computação 14 00:01:02,920 --> 00:01:07,000 era que eu sabia codificar e parecia que de alguma forma desligado dos problemas 15 00:01:07,000 --> 00:01:08,000 do mundo real. 16 00:01:09,120 --> 00:01:13,320 (MÚSICA SUAVE) 17 00:01:13,320 --> 00:01:16,560 - Eu queria aprender como faça tecnologia legal. 18 00:01:16,560 --> 00:01:20,480 Então eu vim para o M.I.T. e eu estava trabalhando em projetos de arte, 19 00:01:20,480 --> 00:01:23,080 que usaria computador tecnologia de visão. 20 00:01:23,080 --> 00:01:27,600 (MÚSICA SUAVE) 21 00:01:27,600 --> 00:01:30,920 - Durante meu primeiro semestre no Laboratório de Mídia, 22 00:01:30,920 --> 00:01:33,840 Eu fiz uma aula chamada Fabricação Científica. 23 00:01:33,840 --> 00:01:37,760 Você lê ficção científica e tenta construir algo que você se sinta inspirado a fazer, 24 00:01:37,760 --> 00:01:41,120 isso provavelmente seria impraticável se você não teve essas aulas 25 00:01:41,120 --> 00:01:43,000 e desculpa para fazer isso. 26 00:01:44,280 --> 00:01:47,560 eu queria fazer um espelho isso poderia me inspirar pela manhã 27 00:01:47,560 --> 00:01:48,840 Eu chamo isso de espelho Aspire 28 00:01:48,840 --> 00:01:51,120 poderia colocar coisas como um leão no meu rosto 29 00:01:51,120 --> 00:01:54,400 ou pessoas que me inspiraram como Serena Williams 30 00:01:54,960 --> 00:01:56,520 Coloquei uma câmera em cima dele, 31 00:01:56,520 --> 00:02:00,440 e eu tenho um software de visão computacional isso deveria rastrear meu rosto. 32 00:02:01,400 --> 00:02:04,160 Meu problema é que não funcionou muito bem, 33 00:02:04,760 --> 00:02:07,760 até colocar essa máscara branca. 34 00:02:07,760 --> 00:02:11,160 Quando coloco a máscara branca, detectado. 35 00:02:11,720 --> 00:02:13,680 Eu tiro a máscara branca, 36 00:02:14,960 --> 00:02:16,280 nem tanto. 37 00:02:19,640 --> 00:02:21,480 Estou pensando bem o que está acontecendo aqui? 38 00:02:21,480 --> 00:02:24,040 Isso é só por causa as condições de iluminação? 39 00:02:24,040 --> 00:02:28,040 É por causa do ângulo em que estou olhando para a câmera? 40 00:02:28,040 --> 00:02:29,480 Ou há algo mais? 41 00:02:33,720 --> 00:02:36,320 Muitas vezes ensinamos máquinas a ver 42 00:02:36,320 --> 00:02:41,000 fornecendo conjuntos de treinamento ou exemplos daquilo que queremos que ele aprenda. 43 00:02:42,360 --> 00:02:44,920 Então, por exemplo, se eu quiser uma máquina ver um rosto, 44 00:02:44,920 --> 00:02:47,560 eu vou fornecer muitos exemplos de rostos 45 00:02:47,560 --> 00:02:49,360 e também coisas que não são rostos. 46 00:02:52,480 --> 00:02:54,920 Comecei a olhar para o os próprios conjuntos de dados 47 00:02:54,920 --> 00:02:58,560 e o que descobri como muitos esses conjuntos de dados contêm 48 00:02:58,560 --> 00:03:02,440 maioria homens e maioria indivíduos de pele mais clara. 49 00:03:02,440 --> 00:03:06,840 Então os sistemas não eram tão familiarizado com rostos como o meu. 50 00:03:14,040 --> 00:03:16,560 E foi então que comecei olhando para 51 00:03:16,560 --> 00:03:19,960 questões de preconceito que podem entrar na tecnologia. 52 00:03:21,080 --> 00:03:25,080 -A Série 9000 é a mais computador confiável já feito. 53 00:03:26,200 --> 00:03:30,480 Nenhum computador 9000 jamais fez um erro ou informação distorcida. 54 00:03:31,520 --> 00:03:36,280 - Muitas das nossas ideias sobre A.Eu venho da ficção científica. 55 00:03:36,840 --> 00:03:39,040 - Bem-vindos ao Altair 4, senhores. 56 00:03:39,040 --> 00:03:42,720 - É tudo em Hollywood, -é o Exterminador do Futuro 57 00:03:42,720 --> 00:03:45,000 - Hasta la vista, querido. 58 00:03:45,000 --> 00:03:47,680 - É o Comandante Data de Star Trek. 59 00:03:47,680 --> 00:03:50,600 - Adoro procurar formas de vida. 60 00:03:50,600 --> 00:03:53,160 - É o C-3PO de Star Wars 61 00:03:53,160 --> 00:03:56,640 - É aproximadamente 3.720 para 1. - Nunca me diga as probabilidades. 62 00:03:56,640 --> 00:03:59,520 - São os robôs que dominam o mundo 63 00:03:59,520 --> 00:04:01,440 e começar a pensar como seres humanos. 64 00:04:03,560 --> 00:04:06,320 E estes são totalmente imaginários. 65 00:04:06,320 --> 00:04:09,840 O que realmente temos é que temos IA estreita. 66 00:04:09,840 --> 00:04:12,480 E IA estreita é apenas matemática. 67 00:04:13,480 --> 00:04:18,000 Nós imbuímos os computadores com tudo isso, pensamento mágico. 68 00:04:18,000 --> 00:04:20,800 (MÚSICA SUAVE) 69 00:04:20,800 --> 00:04:23,120 A. Comecei com uma reunião 70 00:04:23,120 --> 00:04:26,920 no Departamento de Matemática de Dartmouth em 1956. 71 00:04:26,920 --> 00:04:31,160 E havia apenas talvez 100 pessoas em todo o mundo 72 00:04:31,160 --> 00:04:35,280 trabalhando em inteligência artificial naquela geração. 73 00:04:37,560 --> 00:04:41,040 As pessoas que estavam em o departamento de matemática de Dartmouth 74 00:04:41,040 --> 00:04:45,000 em 1956, consegui decidir qual era o campo. 75 00:04:47,920 --> 00:04:53,360 Uma facção decidiu que a inteligência poderia ser demonstrado 76 00:04:53,360 --> 00:04:55,760 pela capacidade de jogar. 77 00:04:55,760 --> 00:04:59,480 E especificamente a capacidade de jogar xadrez. 78 00:04:59,480 --> 00:05:02,840 - Na última hora da partida de xadrez entre homem e máquina, 79 00:05:02,840 --> 00:05:06,520 Kasparov foi derrotado por Supercomputador Deep Blue da IBM. 80 00:05:06,520 --> 00:05:12,120 - Inteligência foi definida como a capacidade de vencer nesses jogos. 81 00:05:14,480 --> 00:05:18,160 - Campeão mundial de xadrez Garry Kasparov saiu da partida 82 00:05:18,160 --> 00:05:20,960 nunca olhando para trás o computador que acabou de vencê-lo. 83 00:05:20,960 --> 00:05:24,120 - Claro inteligência é muito mais do que isso. 84 00:05:24,120 --> 00:05:26,400 E há muitos diferentes tipos de inteligência. 85 00:05:28,520 --> 00:05:33,280 Nossas ideias sobre tecnologia e sociedade que achamos que são normais 86 00:05:33,280 --> 00:05:36,320 são na verdade ideias que vem de um lugar muito pequeno 87 00:05:36,320 --> 00:05:38,360 e um grupo homogêneo de pessoas. 88 00:05:39,720 --> 00:05:41,960 Mas o problema é que 89 00:05:41,960 --> 00:05:44,960 todo mundo tem preconceitos inconscientes 90 00:05:44,960 --> 00:05:49,160 E as pessoas incorporam seus próprios preconceitos em tecnologia. 91 00:05:53,400 --> 00:05:56,160 - Minhas próprias experiências vividas me mostre isso 92 00:05:56,160 --> 00:05:59,640 você não pode separar o social do técnico. 93 00:06:00,600 --> 00:06:03,400 Depois que tive a experiência de colocar uma máscara branca 94 00:06:03,400 --> 00:06:06,920 ter meu rosto detectado, Eu decidi olhar para outros sistemas 95 00:06:06,920 --> 00:06:10,920 para ver se ele detectaria meu rosto se eu usasse um tipo diferente de software. 96 00:06:10,920 --> 00:06:14,680 Então olhei para IBM, Microsoft, Cara, Google. 97 00:06:14,680 --> 00:06:16,760 Descobriu-se que esses algoritmos 98 00:06:16,760 --> 00:06:21,440 teve melhor desempenho nos rostos masculinos no benchmark do que os rostos femininos. 99 00:06:21,440 --> 00:06:26,960 Eles tiveram um desempenho significativamente melhor em os rostos mais claros do que os rostos mais escuros. 100 00:06:28,600 --> 00:06:32,320 Se você está pensando em dados em inteligência artificial, 101 00:06:32,320 --> 00:06:34,560 em muitos aspectos, os dados são destino. 102 00:06:34,560 --> 00:06:37,200 Dados são o que estamos usando ensinar máquinas 103 00:06:37,200 --> 00:06:39,440 como aprender diferentes tipos de padrões. 104 00:06:39,440 --> 00:06:42,040 Então, se você tiver conjuntos de dados bastante distorcidos 105 00:06:42,040 --> 00:06:43,880 que estão sendo usados para treinar esses sistemas 106 00:06:43,880 --> 00:06:46,560 você também pode ter resultados distorcidos. Então isso é... 107 00:06:46,560 --> 00:06:50,000 Quando você pensa em IA é voltado para o futuro. 108 00:06:50,000 --> 00:06:55,080 Mas a IA é baseado em dados e os dados são uma reflexo da nossa história. 109 00:06:55,080 --> 00:06:58,520 Então o passado habita dentro de nossos algoritmos. 110 00:07:00,920 --> 00:07:05,880 Esses dados estão nos mostrando as desigualdades que existiram aqui. 111 00:07:08,000 --> 00:07:10,480 comecei a pensar esse tipo de tecnologia 112 00:07:10,480 --> 00:07:12,560 é altamente suscetível a preconceitos. 113 00:07:13,640 --> 00:07:17,800 E assim foi além como posso fazer meu espelho aspirar funcionar 114 00:07:17,800 --> 00:07:20,760 para o que isso significa estar em uma sociedade 115 00:07:20,760 --> 00:07:23,920 onde a inteligência artificial governa cada vez mais 116 00:07:23,920 --> 00:07:26,160 as liberdades que podemos ter? 117 00:07:26,160 --> 00:07:30,680 E o que isso significa se as pessoas são discriminados? 118 00:07:41,200 --> 00:07:45,880 Quando vi Cathy O'Neil falar na Livraria Harvard, 119 00:07:45,880 --> 00:07:47,200 foi quando percebi, 120 00:07:47,800 --> 00:07:50,880 não fui só eu que percebi esses problemas. 121 00:07:53,000 --> 00:07:57,800 Cathy falou sobre como a IA. estava impactando a vida das pessoas. 122 00:07:59,360 --> 00:08:04,000 Fiquei animado em saber que havia havia outra pessoa lá fora 123 00:08:04,000 --> 00:08:07,720 garantir que as pessoas estivessem cientes quais são alguns dos perigos. 124 00:08:09,760 --> 00:08:14,400 Esses algoritmos podem ser destrutivo e pode ser prejudicial. 125 00:08:18,880 --> 00:08:21,440 - Temos todos esses algoritmos no mundo 126 00:08:21,440 --> 00:08:24,440 que são cada vez mais influentes. 127 00:08:24,440 --> 00:08:28,560 E eles estão todos sendo apresentado como verdade objetiva. 128 00:08:29,640 --> 00:08:32,360 Comecei a perceber isso a matemática era na verdade 129 00:08:33,200 --> 00:08:36,600 sendo usado como escudo por práticas corruptas. 130 00:08:36,600 --> 00:08:37,880 - E aí? - Eu sou Cathy. 131 00:08:37,880 --> 00:08:39,920 - Prazer em conhecê-la Cathy. - Prazer em conhecê-lo. 132 00:08:48,800 --> 00:08:51,600 A maneira como descrevo algoritmos é simplesmente 133 00:08:51,600 --> 00:08:55,360 usando informações históricas para fazer uma previsão sobre o futuro. 134 00:09:01,200 --> 00:09:05,440 Aprendizado de máquina, é um sistema de pontuação que pontua a probabilidade 135 00:09:05,440 --> 00:09:07,400 do que você está prestes a fazer. 136 00:09:07,400 --> 00:09:08,840 Você vai pagar esse empréstimo? 137 00:09:08,840 --> 00:09:11,160 Você vai ser demitido deste emprego? 138 00:09:11,680 --> 00:09:14,480 O que mais me preocupa na IA 139 00:09:14,480 --> 00:09:17,920 ou como você quiser chamar, algoritmos, é poder. 140 00:09:17,920 --> 00:09:21,400 Porque é realmente tudo sobre quem é o dono da porra do código. 141 00:09:21,400 --> 00:09:24,920 As pessoas que possuem o código em seguida, implante-o em outras pessoas. 142 00:09:25,480 --> 00:09:26,760 E não há simetria aí, 143 00:09:26,760 --> 00:09:30,480 não há como as pessoas que não recebeu ofertas de cartão de crédito para dizer 144 00:09:30,480 --> 00:09:33,520 uau, vou usar minha IA. contra a administradora do cartão de crédito. 145 00:09:33,520 --> 00:09:36,320 Isso é totalmente situação de poder assimétrica. 146 00:09:36,880 --> 00:09:39,560 People are suffering algorithmic harm, 147 00:09:39,560 --> 00:09:42,440 they're not being told o que está acontecendo com eles, 148 00:09:42,440 --> 00:09:45,520 e não há sistema de recurso, não há responsabilidade. 149 00:09:45,520 --> 00:09:47,560 Por que caímos nessa? 150 00:09:51,880 --> 00:09:54,560 Estrutura matemática subjacente do algoritmo 151 00:09:54,560 --> 00:09:58,800 isn't racist or sexist mas os dados incorporam o passado, 152 00:09:58,800 --> 00:10:02,040 e não apenas o passado recente mas o, o passado sombrio. 153 00:10:05,560 --> 00:10:07,600 Antes de termos o algoritmo we had humans 154 00:10:07,600 --> 00:10:10,120 e todos nós sabemos disso os humanos podem ser injustos, 155 00:10:10,120 --> 00:10:13,480 todos nós sabemos que os humanos podem exibir racista ou sexista 156 00:10:13,480 --> 00:10:15,880 ou o que quer que seja, discriminações mais capazes. 157 00:10:17,840 --> 00:10:20,640 Mas agora temos esse lindo silver bullet algorithm 158 00:10:20,640 --> 00:10:22,840 e assim todos nós podemos parar pensando sobre isso. 159 00:10:23,520 --> 00:10:25,040 E isso é um problema. 160 00:10:27,520 --> 00:10:31,600 Estou muito preocupado com esse cego fé que temos em big data. 161 00:10:31,600 --> 00:10:36,080 Precisamos monitorar constantemente todo processo por preconceito. 162 00:10:44,800 --> 00:10:47,840 - A polícia está usando reconhecimento facial vigilância nesta área. 163 00:10:48,800 --> 00:10:52,080 A polícia está usando reconhecimento facial vigilância na área hoje. 164 00:10:52,680 --> 00:10:55,200 Esta van verde aqui, 165 00:10:55,200 --> 00:10:57,760 está equipado com facial câmeras de reconhecimento no topo. 166 00:10:57,760 --> 00:11:00,400 Se você descer até lá, seu rosto será escaneado 167 00:11:00,400 --> 00:11:02,720 contra listas de observação secretas não sabemos quem está neles. 168 00:11:03,200 --> 00:11:06,240 - Espero que não eu -Não, exatamente. 169 00:11:14,600 --> 00:11:16,600 Quando as pessoas passam as câmeras 170 00:11:16,600 --> 00:11:20,520 o sistema alertará a polícia sobre pessoas ele acha que é uma correspondência. 171 00:11:21,240 --> 00:11:22,240 No Big Brother Watch 172 00:11:22,240 --> 00:11:25,160 conduzimos uma Liberdade de Campanha de Informação 173 00:11:25,160 --> 00:11:31,200 e o que descobrimos é que 98% dessas correspondências são de fato 174 00:11:31,200 --> 00:11:36,440 combinando incorretamente um inocente pessoa como uma pessoa procurada. 175 00:11:48,480 --> 00:11:54,160 A polícia disse à Biometria Comitê de Ética Forense que 176 00:11:54,160 --> 00:11:57,800 algoritmos de reconhecimento facial foram relatados como tendenciosos. 177 00:11:57,800 --> 00:11:59,800 - Mesmo que isso fosse 100% preciso, 178 00:11:59,800 --> 00:12:02,400 ainda não é algo que queremos nas ruas. 179 00:12:02,400 --> 00:12:04,920 - Não, quero dizer os preconceitos sistêmicos e as questões sistêmicas 180 00:12:04,920 --> 00:12:08,120 que temos com a polícia só serão conectados 181 00:12:08,120 --> 00:12:09,800 em novas tecnologias. 182 00:12:12,480 --> 00:12:15,440 Eu acho que nós temos que seja muito, muito sensível 183 00:12:15,440 --> 00:12:18,760 às mudanças em direção ao autoritarismo. 184 00:12:18,760 --> 00:12:21,880 Não podemos simplesmente dizer, mas nós confie neste governo. 185 00:12:21,880 --> 00:12:23,640 Sim, eles poderiam fazer isso, mas não farão. 186 00:12:23,640 --> 00:12:26,600 Você sabe que realmente precisa ter estruturas robustas no lugar 187 00:12:26,600 --> 00:12:28,320 para ter certeza de que o mundo em que você vive 188 00:12:28,320 --> 00:12:29,840 é seguro e justo para todos. 189 00:12:39,880 --> 00:12:43,920 Para ter sua foto biométrica em um banco de dados policial, 190 00:12:43,920 --> 00:12:48,200 é como ter sua impressão digital ou seu DNA em um banco de dados policial. 191 00:12:48,200 --> 00:12:50,360 E temos leis específicas sobre isso. 192 00:12:50,360 --> 00:12:53,800 A polícia não pode simplesmente levar ninguém impressão digital, o DNA de qualquer pessoa. 193 00:12:53,800 --> 00:12:57,360 Mas neste sistema estranho que temos atualmente, 194 00:12:57,360 --> 00:13:00,880 eles efetivamente podem assumir foto biométrica de qualquer pessoa, 195 00:13:00,880 --> 00:13:02,520 e mantenha isso em um banco de dados. 196 00:13:03,680 --> 00:13:06,280 É uma mancha na nossa democracia, Eu acho. 197 00:13:06,280 --> 00:13:09,200 Que isso é algo que está sendo implementado de forma tão ilegal. 198 00:13:12,960 --> 00:13:16,600 A polícia começou a usar tratamentos faciais vigilância de reconhecimento no Reino Unido 199 00:13:16,600 --> 00:13:21,960 na completa ausência de base jurídica, um quadro jurídico, qualquer descuido. 200 00:13:23,240 --> 00:13:25,960 Essencialmente a força policial pegando uma nova ferramenta 201 00:13:25,960 --> 00:13:28,160 e dizendo vamos ver o que acontece. 202 00:13:28,160 --> 00:13:30,880 Mas você não pode experimentar com os direitos das pessoas. 203 00:13:34,000 --> 00:13:39,000 (CONVERSA CRUZADA) 204 00:13:45,480 --> 00:13:46,920 - Qual é a sua suspeita? 205 00:13:47,600 --> 00:13:50,000 - O fato de ele ter passado claramente marcado 206 00:13:50,000 --> 00:13:51,800 coisa de reconhecimento facial e cobriu o rosto. 207 00:13:51,800 --> 00:13:53,600 - Eu faria o mesmo - Motivos suspeitos. 208 00:13:54,320 --> 00:13:55,600 - Não, não importa. 209 00:13:56,480 --> 00:13:59,280 - Os caras lá em cima me informaram que eles obtiveram reconhecimento facial. 210 00:13:59,280 --> 00:14:00,760 Não quero que meu rosto seja reconhecido. 211 00:14:00,760 --> 00:14:02,560 Sim, eu estava passando e cobri meu rosto. 212 00:14:03,400 --> 00:14:05,200 assim que cobri meu rosto assim, 213 00:14:05,200 --> 00:14:07,080 - Você tem permissão para fazer isso -Eles disseram não, não posso. 214 00:14:07,080 --> 00:14:10,440 -Sim e então ele é apenas recebeu uma multa por isso. Isso é uma loucura. 215 00:14:12,480 --> 00:14:15,480 O cara saiu da estação, vi os cartazes era como, 216 00:14:15,480 --> 00:14:18,920 sim, eu concordo com você e andei passou por aqui com a jaqueta levantada. 217 00:14:18,920 --> 00:14:21,600 A polícia então o seguiu, disse para nos dar sua identidade, 218 00:14:21,600 --> 00:14:22,800 fazendo uma verificação de identidade. 219 00:14:22,800 --> 00:14:25,120 Então você sabe que esta é a Inglaterra, este não é um estado comunista, 220 00:14:25,120 --> 00:14:26,600 Não preciso mostrar meu rosto. 221 00:14:26,600 --> 00:14:28,720 - Vou falar com esses policiais, tudo bem? 222 00:14:28,720 --> 00:14:30,600 Você quer vir comigo ou não? - Sim, sim, sim. 223 00:14:32,520 --> 00:14:35,400 - Você não é um policial, você não sente nenhuma ameaça. 224 00:14:36,360 --> 00:14:40,000 Estamos aqui para proteger o público e é para isso que estamos aqui, ok? 225 00:14:40,000 --> 00:14:42,040 Houve recentemente um incidente 226 00:14:42,040 --> 00:14:44,120 onde um oficial levou um soco na cara. 227 00:14:44,120 --> 00:14:47,040 - Isso é terrível, Não estou justificando isso. 228 00:14:47,040 --> 00:14:49,480 - Sim, mas você é indo contra o que dizemos. 229 00:14:49,480 --> 00:14:54,160 - Não, não estamos, e por favor não diga, não, nem comece a dizer isso. 230 00:14:54,160 --> 00:14:57,160 Estou completamente entendendo dos problemas que você enfrenta. 231 00:14:57,160 --> 00:14:58,160 - Absolutamente. 232 00:14:58,160 --> 00:15:00,720 - Mas estou igualmente preocupado sobre o público 233 00:15:00,720 --> 00:15:02,800 ter liberdade de expressão e liberdade de expressão. 234 00:15:02,800 --> 00:15:04,560 - Mas o homem estava exercendo o seu direito 235 00:15:04,560 --> 00:15:06,920 não estar sujeito a uma verificação de identidade biométrica 236 00:15:06,920 --> 00:15:08,360 que é o que esta van faz. 237 00:15:08,360 --> 00:15:11,640 - Independentemente do reconhecimento facial câmeras, independentemente da van, 238 00:15:12,480 --> 00:15:13,960 se eu estou andando pela rua e alguém 239 00:15:14,520 --> 00:15:16,120 esconde abertamente sua identidade de mim, 240 00:15:16,760 --> 00:15:18,640 Eu vou parar essa pessoa e descubra quem eles são 241 00:15:18,640 --> 00:15:19,640 só para ver se eles... 242 00:15:19,640 --> 00:15:22,160 - Mas não é ilegal. Você vê uma das minhas preocupações, 243 00:15:22,160 --> 00:15:25,480 é que o software é muito, muito impreciso. 244 00:15:25,480 --> 00:15:26,560 - Eu concordaria com você nisso. 245 00:15:33,400 --> 00:15:35,760 -Meu maior medo é que, 246 00:15:35,760 --> 00:15:39,320 nós teríamos recursos de reconhecimento facial ao vivo 247 00:15:39,320 --> 00:15:41,600 em nosso gigantesco Rede CFTV 248 00:15:41,600 --> 00:15:43,600 que é cerca de seis milhões de câmeras no Reino Unido. 249 00:15:44,560 --> 00:15:49,240 Se isso acontecer, a natureza da vida neste país mudaria. 250 00:15:55,160 --> 00:15:57,040 Era para ser grátis e um país democrático 251 00:15:57,040 --> 00:16:00,280 e esta é a vigilância ao estilo da China pela primeira vez em Londres. 252 00:16:05,760 --> 00:16:09,000 - Nosso controle sobre uma situação desconcertante ambiente foi facilitado 253 00:16:09,000 --> 00:16:12,080 por novas técnicas de manejo grandes quantidades de dados 254 00:16:12,080 --> 00:16:14,040 em velocidades incríveis. 255 00:16:14,040 --> 00:16:18,040 A ferramenta que tornou isso possível é o computador digital de alta velocidade, 256 00:16:18,040 --> 00:16:21,760 operando com precisão eletrônica em grandes quantidades de informações. 257 00:16:22,720 --> 00:16:25,520 - Existem duas maneiras de você pode programar computadores. 258 00:16:25,520 --> 00:16:27,360 Um deles é mais like a recipe 259 00:16:27,360 --> 00:16:30,520 você diz ao computador para fazer isso, faça isso, faça isso, faça isso. 260 00:16:31,760 --> 00:16:35,600 E foi assim que programamos computadores quase desde o início. 261 00:16:35,600 --> 00:16:37,120 Agora há outra maneira. 262 00:16:37,120 --> 00:16:39,680 Dessa forma é alimentar the computer lots of data, 263 00:16:40,360 --> 00:16:45,000 e então o computador aprende a classificar digerindo esses dados. 264 00:16:46,400 --> 00:16:50,600 Agora, esse método realmente não pegou até recentemente 265 00:16:50,600 --> 00:16:52,480 porque não havia dados suficientes. 266 00:16:53,920 --> 00:16:57,600 Até que todos nós tenhamos os smartphones que está coletando todos os dados sobre nós, 267 00:16:57,600 --> 00:16:58,920 quando bilhões de pessoas foram on-line 268 00:16:58,920 --> 00:17:01,280 e você tinha os Googles e o Facebook sentado em 269 00:17:01,280 --> 00:17:02,800 quantidades gigantescas de dados, 270 00:17:02,800 --> 00:17:07,120 de repente acontece que você pode alimentar muitos dados 271 00:17:07,120 --> 00:17:11,120 para esses algoritmos de aprendizado de máquina e você pode dizer aqui classifique isso 272 00:17:11,120 --> 00:17:13,040 e funciona muito bem. 273 00:17:16,200 --> 00:17:20,160 Embora não entendamos realmente por que funciona, 274 00:17:20,160 --> 00:17:23,440 tem erros que nós realmente não entendemos. 275 00:17:26,600 --> 00:17:30,200 E a parte assustadora é que porque é aprendizado de máquina 276 00:17:30,200 --> 00:17:33,160 é uma caixa preta até mesmo para os programadores. 277 00:17:40,320 --> 00:17:43,520 Então, tenho acompanhado o que está acontecendo em Hong Kong 278 00:17:43,520 --> 00:17:48,040 e como a polícia está usando tratamentos faciais reconhecimento para rastrear manifestantes. 279 00:17:48,600 --> 00:17:51,840 Mas também quão criativamente as pessoas estão reagindo. 280 00:17:57,360 --> 00:17:59,960 - Pode não fazer alguma coisa de um filme de ficção científica, 281 00:17:59,960 --> 00:18:04,960 Ponteiros laser confundem e desabilitam a tecnologia de reconhecimento facial 282 00:18:04,960 --> 00:18:08,600 sendo usado pela polícia, to track down dissidents. 283 00:18:08,600 --> 00:18:14,040 (MÚSICA SUAVE) 284 00:18:19,520 --> 00:18:26,280 (CRANTO DA MULTIDÃO) 285 00:18:41,480 --> 00:18:42,960 - Aqui nas ruas de Hong Kong, 286 00:18:42,960 --> 00:18:45,680 há essa consciência que seu próprio rosto, 287 00:18:45,680 --> 00:18:49,240 algo que você não pode esconder poderia revelar sua identidade. 288 00:18:49,240 --> 00:18:53,200 Havia apenas este símbolo nítido onde em frente a um escritório do governo chinês, 289 00:18:53,200 --> 00:18:58,880 pro-democracy protesters spray painted as lentes das câmeras CCTV pretas. 290 00:18:58,880 --> 00:19:02,280 Este ato mostrou ao povo de Hong Kong estão rejeitando esta visão 291 00:19:02,280 --> 00:19:05,040 de como a tecnologia deverá ser usado no futuro. 292 00:19:05,520 --> 00:19:12,960 (MÚSICA SUAVE) 293 00:19:28,800 --> 00:19:32,200 - Quando você vê como facial o reconhecimento está sendo implantado 294 00:19:32,200 --> 00:19:37,480 em diferentes partes do mundo, mostra futuros potenciais. 295 00:19:42,640 --> 00:19:46,000 - Mais de 117 milhões pessoas nos EUA, 296 00:19:46,000 --> 00:19:49,000 tem o rosto em um rede de reconhecimento facial 297 00:19:49,000 --> 00:19:51,040 que pode ser revistado pela polícia. 298 00:19:51,040 --> 00:19:54,840 Injustificado usando algoritmos que não foram auditados quanto à precisão. 299 00:19:55,760 --> 00:20:00,240 E sem salvaguardas sem qualquer tipo de regulamentação, 300 00:20:00,240 --> 00:20:03,000 você pode criar uma massa estado de vigilância 301 00:20:03,000 --> 00:20:06,400 muito facilmente com as ferramentas que já existem. 302 00:20:10,480 --> 00:20:13,480 As pessoas olham o que está acontecendo na China 303 00:20:13,480 --> 00:20:16,480 e como precisamos nos preocupar vigilância estadual 304 00:20:16,480 --> 00:20:18,360 e é claro que deveríamos estar. 305 00:20:18,360 --> 00:20:21,920 Mas não podemos esquecer também vigilância 306 00:20:21,920 --> 00:20:24,920 isso está acontecendo por tantas grandes empresas de tecnologia 307 00:20:24,920 --> 00:20:28,640 que realmente tem um visão íntima de nossas vidas. 308 00:20:36,720 --> 00:20:40,440 - Então não há atualmente nove empresas 309 00:20:40,440 --> 00:20:43,640 que estão construindo o futuro inteligência artificial. 310 00:20:43,640 --> 00:20:46,680 Seis estão nos Estados Unidos, três estão na China. 311 00:20:46,680 --> 00:20:50,360 IA está sendo desenvolvido ao longo de dois faixas muito, muito diferentes. 312 00:20:52,800 --> 00:20:55,920 A China tem acesso irrestrito aos dados de todos. 313 00:20:55,920 --> 00:20:59,520 Se um cidadão chinês quiser para obter serviço de Internet, 314 00:20:59,520 --> 00:21:01,760 eles têm que se submeter ao reconhecimento facial. 315 00:21:03,760 --> 00:21:05,520 Todos esses dados estão sendo usados 316 00:21:05,520 --> 00:21:07,080 to give them permissions to do things 317 00:21:07,080 --> 00:21:09,360 ou negar-lhes permissões para fazer outras coisas. 318 00:21:12,280 --> 00:21:15,240 Construindo sistemas que etiquetam automaticamente e categorizar 319 00:21:15,240 --> 00:21:17,480 todas as pessoas dentro da China, 320 00:21:17,480 --> 00:21:20,000 é um bom caminho de manter a ordem social. 321 00:21:23,640 --> 00:21:26,880 - Conversely in the United Estados-Membros, não vimos 322 00:21:26,880 --> 00:21:29,440 ponto de vista detalhado sobre inteligência artificial. 323 00:21:30,480 --> 00:21:33,280 Então, o que vemos é que a IA 324 00:21:33,280 --> 00:21:35,720 não está sendo desenvolvido para o que é melhor 325 00:21:35,720 --> 00:21:37,720 no nosso interesse público, mas sim 326 00:21:38,280 --> 00:21:41,960 está sendo desenvolvido para fins comerciais aplicativos para obter receita. 327 00:21:45,200 --> 00:21:50,120 Eu preferiria ver nosso faroeste ideais democráticos incorporados à nossa IA 328 00:21:50,120 --> 00:21:53,120 sistemas do futuro, mas não parece 329 00:21:53,120 --> 00:21:54,960 isso é o que provavelmente vai acontecer. 330 00:21:56,040 --> 00:21:57,280 (TOCA MÚSICA) 331 00:22:17,680 --> 00:22:21,920 - Aqui na Atlantic Towers, se você fazer algo que é considerado errado por 332 00:22:21,920 --> 00:22:26,800 gerenciamento, você receberá uma foto assim com pequenas anotações. 333 00:22:26,800 --> 00:22:30,520 Eles vão circular você e colocar o seu número do apartamento ou o que quer que esteja ali. 334 00:22:32,720 --> 00:22:34,520 Algo sobre isso apenas não parece certo. 335 00:22:36,600 --> 00:22:38,760 Na verdade, é o jeito que eles vão sobre usá-lo para assediar pessoas. 336 00:22:38,760 --> 00:22:39,920 - Como eles estão usando isso? 337 00:22:39,920 --> 00:22:41,560 - Para assediar pessoas. 338 00:22:43,080 --> 00:22:45,120 - Torres Atlantic Plaza em Brownsville é 339 00:22:45,120 --> 00:22:47,480 no centro de uma luta pela segurança. 340 00:22:47,480 --> 00:22:49,840 O proprietário entrou com uma ação aplicação no ano passado 341 00:22:49,840 --> 00:22:54,200 para substituir a entrada do chaveiro por um sistema de segurança biométrica, 342 00:22:54,200 --> 00:22:56,480 comumente conhecido como reconhecimento facial. 343 00:22:57,160 --> 00:22:59,480 - Nós pensamos que eles queriam para tirar os chaveiros 344 00:22:59,480 --> 00:23:02,240 e instale o facial software de reconhecimento. 345 00:23:02,920 --> 00:23:07,360 Eu não descobri até muito mais tarde literalmente que eles queriam ficar com tudo. 346 00:23:07,360 --> 00:23:11,240 Praticamente vire este lugar em Fort Knox, uma prisão, Rikers Island. 347 00:23:13,520 --> 00:23:15,760 - Tem esse velho vi na ficção científica 348 00:23:15,760 --> 00:23:17,840 que é o futuro já está aqui. 349 00:23:17,840 --> 00:23:20,240 Simplesmente não está distribuído uniformemente, e o que 350 00:23:20,240 --> 00:23:22,680 eles tendem a querer dizer quando dizem que isso é 351 00:23:22,680 --> 00:23:24,720 que as pessoas ricas obtêm primeiro as ferramentas sofisticadas 352 00:23:24,720 --> 00:23:27,240 e então vai por último para os pobres. 353 00:23:27,240 --> 00:23:29,640 Mas, na verdade, o que descobri é o inverso absoluto, 354 00:23:29,640 --> 00:23:31,320 que é o mais punitivo, 355 00:23:31,320 --> 00:23:35,160 mais invasivo, mais vigilância ferramentas focadas que temos, 356 00:23:35,160 --> 00:23:38,520 eles vão para os pobres e trabalham comunidades primeiro e depois 357 00:23:38,520 --> 00:23:41,720 se eles funcionarem depois de serem testados neste ambiente onde 358 00:23:41,720 --> 00:23:45,080 eles têm uma expectativa baixa que os direitos das pessoas serão respeitados, 359 00:23:45,080 --> 00:23:48,080 então eles são portados para outras comunidades. 360 00:23:50,080 --> 00:23:51,440 - Por que o Sr. Nelson 361 00:23:51,440 --> 00:23:54,560 escolher está construindo em Brownsville que 362 00:23:54,560 --> 00:23:57,520 está predominantemente em uma área preta e marrom? 363 00:23:57,520 --> 00:24:00,000 Por que você não foi para o seu prédio em Lower Manhattan, onde 364 00:24:00,000 --> 00:24:02,880 eles pagam cerca de US $ 5.000 por mês de aluguel? 365 00:24:03,480 --> 00:24:05,280 O que os nazistas fizeram? 366 00:24:05,280 --> 00:24:08,880 Eles escreveram nos braços das pessoas para que pudessem rastreá-los. 367 00:24:08,880 --> 00:24:10,360 O que fazemos com nossos animais? 368 00:24:10,360 --> 00:24:12,880 Colocamos fichas em casa para que você possa rastreá-las. 369 00:24:12,880 --> 00:24:17,080 Eu sinto que eu como ser humano não deve ser rastreado, ok? 370 00:24:17,080 --> 00:24:19,040 Eu não sou um robô, ok? 371 00:24:19,040 --> 00:24:21,800 Eu não sou um animal, então por que me tratar como um animal? 372 00:24:21,800 --> 00:24:22,800 E eu tenho direitos. 373 00:24:25,440 --> 00:24:26,760 - A segurança que temos agora 374 00:24:26,760 --> 00:24:28,320 é quase intrusivo. 375 00:24:28,320 --> 00:24:31,000 Alguém está lá observando as câmeras o dia todo. 376 00:24:31,960 --> 00:24:33,360 Então, acho que não precisamos disso. 377 00:24:33,360 --> 00:24:35,200 Não é necessário. 378 00:24:35,200 --> 00:24:38,440 - Minha verdadeira pergunta é como posso ajudar? 379 00:24:38,920 --> 00:24:40,120 - O que eu tenho ouvido de todos 380 00:24:40,120 --> 00:24:42,920 os inquilinos são eles não quero esse sistema. 381 00:24:42,920 --> 00:24:47,440 Então, acho que o objetivo aqui é como fazer paramos o período de reconhecimento facial? 382 00:24:50,160 --> 00:24:52,600 Estamos em um momento onde a tecnologia está sendo 383 00:24:52,600 --> 00:24:57,080 rapidamente adotado e há não há salvaguardas. 384 00:24:57,080 --> 00:25:00,040 É, em essência, um oeste selvagem. 385 00:25:00,040 --> 00:25:01,160 (TOCA MÚSICA) 386 00:25:11,280 --> 00:25:13,520 - Não é apenas visão computacional. 387 00:25:13,520 --> 00:25:19,040 Temos IA influenciando todos os tipos de tomada de decisão automatizada. 388 00:25:19,960 --> 00:25:23,680 Então, o que você está vendo em seu feeds, o que está em destaque, 389 00:25:23,680 --> 00:25:26,120 os anúncios que são exibidos para você, 390 00:25:26,120 --> 00:25:30,720 esses são frequentemente alimentados por algoritmos habilitados para IA. 391 00:25:32,400 --> 00:25:35,400 E assim, sua visão do mundo está sendo 392 00:25:35,400 --> 00:25:38,400 governado pela inteligência artificial. 393 00:25:41,520 --> 00:25:46,320 Agora você tem recursos como assistência de voz que pode entender a linguagem. 394 00:25:46,320 --> 00:25:48,200 - Você gostaria de jogar um jogo? 395 00:25:48,200 --> 00:25:51,000 - Você pode usar alguma coisa como filtros do Snapchat que 396 00:25:51,000 --> 00:25:52,720 estão detectando seu rosto e depois colocando 397 00:25:52,720 --> 00:25:54,680 algo em seu rosto, e então 398 00:25:54,680 --> 00:25:56,400 você também tem algoritmos que você está 399 00:25:56,400 --> 00:25:59,320 não vendo que são parte da tomada de decisões, 400 00:25:59,320 --> 00:26:01,280 algoritmos que pode estar determinando 401 00:26:01,280 --> 00:26:03,440 se você entrar na faculdade ou não. 402 00:26:03,440 --> 00:26:05,960 Você pode ter algoritmos que estão tentando 403 00:26:05,960 --> 00:26:09,200 determine se você é digno de crédito ou não. 404 00:26:10,320 --> 00:26:13,120 - Um dos cofundadores da Apple está acusando a empresa 405 00:26:13,120 --> 00:26:16,800 novo cartão de crédito digital de discriminação de género. 406 00:26:16,800 --> 00:26:21,160 Um empresário de tecnologia disse os algoritmos usados são sexistas. 407 00:26:21,160 --> 00:26:23,360 Cofundador da Apple Steve Wozniak tuitou 408 00:26:23,360 --> 00:26:25,440 que ele obteve dez vezes o limite de crédito 409 00:26:25,440 --> 00:26:27,240 sua esposa recebeu, embora eles tenham 410 00:26:27,240 --> 00:26:30,280 sem contas separadas ou ativos separados. 411 00:26:30,280 --> 00:26:31,520 Você está dizendo algumas essas empresas não 412 00:26:31,520 --> 00:26:33,720 até sabem como funcionam seus próprios algoritmos. 413 00:26:33,720 --> 00:26:35,560 - Eles sabem o que algoritmos estão tentando fazer. 414 00:26:35,560 --> 00:26:38,200 Eles não sabem exatamente quanto tempo o algoritmo está chegando lá. 415 00:26:38,200 --> 00:26:40,080 É um dos mais interessantes questões do nosso tempo. 416 00:26:40,080 --> 00:26:41,720 Como conseguimos justiça 417 00:26:41,720 --> 00:26:44,640 em um sistema onde não sabe como os algoritmos estão funcionando? 418 00:26:45,200 --> 00:26:49,360 - Alguns engenheiros da Amazon decidiram que eles iriam usar IA 419 00:26:49,360 --> 00:26:51,520 para classificar currículos para contratação. 420 00:26:55,440 --> 00:26:59,160 - A Amazon está aprendendo uma tarefa difícil lição sobre inteligência artificial. 421 00:26:59,160 --> 00:27:01,480 A empresa agora abandonou uma IA 422 00:27:01,480 --> 00:27:04,480 ferramenta de recrutamento depois descobrindo que o programa 423 00:27:04,480 --> 00:27:05,960 era tendencioso contra as mulheres. 424 00:27:08,120 --> 00:27:12,240 - Este modelo foi rejeitado todos os currículos de mulheres. 425 00:27:13,240 --> 00:27:17,640 Qualquer pessoa que tivesse uma mulher faculdade em seu currículo, 426 00:27:17,640 --> 00:27:20,600 qualquer pessoa que praticasse esporte como o pólo aquático feminino 427 00:27:20,600 --> 00:27:23,400 foi rejeitado pelo modelo. 428 00:27:24,800 --> 00:27:28,280 Há muito, muito poucas mulheres trabalhando em 429 00:27:28,280 --> 00:27:30,880 empregos de tecnologia poderosos na Amazon da mesma forma 430 00:27:30,880 --> 00:27:32,680 maneira que há muito poucas mulheres 431 00:27:32,680 --> 00:27:35,320 trabalhando em empregos de tecnologia poderosa em qualquer lugar. 432 00:27:35,320 --> 00:27:41,520 A máquina estava simplesmente replicando o mundo tal como ele existe, 433 00:27:41,520 --> 00:27:44,800 e eles não estão fazendo decisões que sejam éticas. 434 00:27:44,800 --> 00:27:48,000 Eles estão apenas tomando decisões que são matemáticos. 435 00:27:48,840 --> 00:27:54,080 Se usarmos modelos de aprendizado de máquina replicar o mundo como ele é hoje, 436 00:27:54,080 --> 00:27:56,520 na verdade não vamos para fazer progresso social. 437 00:27:59,760 --> 00:28:02,800 - Regulador de seguros de Nova York está iniciando uma investigação 438 00:28:02,800 --> 00:28:05,520 no Grupo UnitedHealth depois que um estudo mostrou 439 00:28:05,520 --> 00:28:09,440 Algoritmo UnitedHealth atendimento médico prioritário para 440 00:28:09,440 --> 00:28:12,680 pacientes brancos mais saudáveis sobre pacientes negros mais doentes. 441 00:28:12,680 --> 00:28:15,480 É um dos exemplos mais recentes de discriminação racial 442 00:28:15,480 --> 00:28:18,400 em algoritmos ou artificiais tecnologia de inteligência. 443 00:28:22,320 --> 00:28:28,040 - Comecei a ver a grande escala implicações sociais da IA. 444 00:28:36,600 --> 00:28:39,680 O progresso que foi feito em a área dos direitos civis poderia 445 00:28:39,680 --> 00:28:44,320 ser revertido para baixo o disfarce da neutralidade da máquina. 446 00:28:48,080 --> 00:28:52,680 Agora, temos um algoritmo que é determinar quem recebe moradia. 447 00:28:52,680 --> 00:28:57,240 No momento, temos um algoritmo isso determina quem será contratado. 448 00:28:58,680 --> 00:29:02,360 Se não estivermos verificando, que nosso o ritmo poderia realmente se propagar 449 00:29:02,360 --> 00:29:07,320 o próprio preconceito que tantas pessoas colocar suas vidas em risco para lutar. 450 00:29:10,920 --> 00:29:16,480 Por causa do poder essas ferramentas, deixadas sem regulamentação, 451 00:29:16,480 --> 00:29:19,840 realmente não há nenhum tipo de recurso se forem abusados. 452 00:29:20,840 --> 00:29:21,960 Precisamos de leis. 453 00:29:23,160 --> 00:29:24,720 (TOCADAS DE MÚSICA CLÁSSICA) 454 00:29:34,680 --> 00:29:36,680 - Sim, estou com uma situação terrível cópia antiga. 455 00:29:36,680 --> 00:29:41,320 Para que o nome da nossa organização é o Big Brother Watch. 456 00:29:42,360 --> 00:29:45,040 A ideia é que observamos os observadores. 457 00:29:49,560 --> 00:29:55,120 "Você tinha que viver, viveu, de hábito que se tornou instinto em 458 00:29:55,120 --> 00:29:58,040 a suposição de que cada o som que você fez foi ouvido 459 00:29:58,680 --> 00:30:00,280 e exceto na escuridão, 460 00:30:00,280 --> 00:30:01,920 cada movimento examinado. 461 00:30:03,600 --> 00:30:06,880 O cartaz com o enorme rosto olhou da parede. 462 00:30:06,880 --> 00:30:09,320 Foi uma daquelas fotos que é tão inventado 463 00:30:09,320 --> 00:30:12,360 que os olhos te sigam sobre quando você se move. 464 00:30:12,360 --> 00:30:14,400 'O Big Brother está te observando' 465 00:30:14,400 --> 00:30:15,760 a legenda abaixo dizia." 466 00:30:16,880 --> 00:30:20,640 Quando éramos mais novos, isso ainda era uma ficção completa. 467 00:30:20,640 --> 00:30:22,680 Nunca poderia ter sido verdade. 468 00:30:22,680 --> 00:30:26,360 E agora, está completamente verdade, e as pessoas têm 469 00:30:26,360 --> 00:30:28,840 Alexas em sua casa. 470 00:30:28,840 --> 00:30:31,240 Nossos telefones podem ser dispositivos de escuta. 471 00:30:32,280 --> 00:30:35,280 Tudo o que fazemos na Internet, que é basicamente também agora 472 00:30:35,280 --> 00:30:38,800 funciona como um fluxo de consciência para a maioria de nós, 473 00:30:39,800 --> 00:30:43,320 que está sendo gravado e registrado e analisado. 474 00:30:43,320 --> 00:30:46,480 Agora estamos vivendo na consciência de ser vigiado, e que 475 00:30:46,480 --> 00:30:50,880 muda a forma como nos permitimos pensar e desenvolver-se como seres humanos. 476 00:30:55,200 --> 00:30:56,200 Bom garoto. 477 00:31:04,360 --> 00:31:05,360 (TOCA MÚSICA) 478 00:31:16,480 --> 00:31:17,480 - Amo você. 479 00:31:21,240 --> 00:31:22,240 Tchau, pessoal. 480 00:31:30,520 --> 00:31:33,640 Podemos nos livrar do visceralmente coisas horríveis que são 481 00:31:33,640 --> 00:31:36,080 questionável ao nosso conceito de autonomia e liberdade, 482 00:31:37,320 --> 00:31:40,160 como câmeras que podemos vejo nas ruas, 483 00:31:43,120 --> 00:31:44,680 mas as câmeras que não podemos ver 484 00:31:44,680 --> 00:31:47,080 a Internet que mantém acompanhar o que fazemos 485 00:31:47,080 --> 00:31:48,720 e quem somos e nossa demografia 486 00:31:48,720 --> 00:31:52,360 e decidir o que merecemos em termos de nossa vida, 487 00:31:52,360 --> 00:31:53,720 essas coisas são um pouco mais sutis. 488 00:32:00,400 --> 00:32:01,400 O que quero dizer com isso 489 00:32:01,400 --> 00:32:06,800 é que punimos os pobres e elevar as pessoas ricas neste país. 490 00:32:06,800 --> 00:32:09,600 É assim que agimos como sociedade. 491 00:32:09,600 --> 00:32:11,480 Mas a ciência de dados torna isso automatizado. 492 00:32:14,440 --> 00:32:17,600 Publicidade na Internet como cientistas de dados 493 00:32:17,600 --> 00:32:21,840 estamos competindo por olhos por um lado, mas realmente, 494 00:32:21,840 --> 00:32:24,000 estamos competindo por olhos de pessoas ricas. 495 00:32:24,000 --> 00:32:26,760 E então, as pessoas pobres que estão competindo por seus olhos? 496 00:32:26,760 --> 00:32:28,640 Indústrias predatórias, 497 00:32:29,120 --> 00:32:32,200 então credores de pagamento ou faculdades com fins lucrativos 498 00:32:32,200 --> 00:32:36,000 ou Caesars Palace como uma porcaria realmente predatória. 499 00:32:38,640 --> 00:32:40,440 Temos uma prática na Internet, 500 00:32:41,280 --> 00:32:42,840 o que está aumentando a desigualdade. 501 00:32:42,840 --> 00:32:44,640 E temo que esteja se normalizando. 502 00:32:47,920 --> 00:32:51,160 O poder está sendo exercido através da coleta de dados, 503 00:32:51,160 --> 00:32:52,960 através de algoritmos, através de vigilância. 504 00:32:56,080 --> 00:32:57,960 -Você está oferecendo informações voluntárias 505 00:32:57,960 --> 00:33:00,880 sobre todos os aspectos da sua vida, 506 00:33:00,880 --> 00:33:04,720 para um conjunto muito pequeno de empresas e essa informação é 507 00:33:04,720 --> 00:33:09,000 sendo emparelhado constantemente com outros tipos de informação. 508 00:33:09,000 --> 00:33:12,080 E há perfis seus lá fora, e você começa 509 00:33:12,080 --> 00:33:14,720 juntar peças diferentes pedaços de informação que você 510 00:33:14,720 --> 00:33:17,440 começar a entender alguém de uma forma muito íntima, 511 00:33:17,440 --> 00:33:20,600 provavelmente melhor que as pessoas entender a si mesmos. 512 00:33:21,840 --> 00:33:26,760 É aquela ideia de que uma empresa pode adivinhe o que você está pensando. 513 00:33:26,760 --> 00:33:29,640 Os Estados tentaram anos para ter esse nível 514 00:33:29,640 --> 00:33:31,840 de vigilância sobre particulares. 515 00:33:32,640 --> 00:33:35,120 E as pessoas agora estão apenas oferecendo-o gratuitamente. 516 00:33:35,840 --> 00:33:38,800 Você tem que pensar em como isso pode ser usado nas mãos erradas. 517 00:33:39,680 --> 00:33:40,840 (TRANSTALK) 518 00:33:47,240 --> 00:33:49,320 -Você pode usar uma Guinness agora mesmo. 519 00:33:50,000 --> 00:33:52,400 -Nossos computadores são máquinas inteligência pode 520 00:33:52,400 --> 00:33:55,160 descobrir coisas que não divulgamos. 521 00:33:55,160 --> 00:33:57,960 O aprendizado de máquina é desenvolvendo-se muito rapidamente. 522 00:33:58,920 --> 00:34:05,200 E ainda não entendemos completamente o que esses dados são capazes de prever. 523 00:34:07,640 --> 00:34:13,600 Mas você tem máquinas em mãos de poder que sabem tanto sobre você 524 00:34:13,600 --> 00:34:17,360 que eles pudessem descobrir como para apertar seus botões individualmente. 525 00:34:19,040 --> 00:34:20,920 Talvez você tenha um conjunto de jogadores compulsivos, 526 00:34:20,920 --> 00:34:23,120 e você diz, aqui, vá encontrar eu pessoas assim. 527 00:34:23,800 --> 00:34:28,320 E então, seu algoritmo pode encontrar pessoas que são propensas a jogar, 528 00:34:29,200 --> 00:34:33,560 e então você poderia apenas estar mostrando eles oferecem ingressos com desconto para Las Vegas. 529 00:34:34,040 --> 00:34:35,640 No mundo on-line, 530 00:34:35,640 --> 00:34:40,960 ele pode encontrar você no momento você está vulnerável e tenta 531 00:34:40,960 --> 00:34:45,720 seduzi-lo neste exato momento para seja lá o que você estiver vulnerável. 532 00:34:45,720 --> 00:34:49,040 O aprendizado de máquina pode encontrar aquela pessoa por pessoa. 533 00:34:52,000 --> 00:34:56,480 O problema é o que funciona para gadgets de marketing ou maquiagem 534 00:34:56,480 --> 00:35:01,120 ou camisas ou qualquer coisa também funciona para ideias de marketing. 535 00:35:04,640 --> 00:35:06,640 Em 2010, 536 00:35:07,240 --> 00:35:10,360 Facebook decidiu experimentar em 61 milhões de pessoas. 537 00:35:11,960 --> 00:35:15,440 Então, você também viu 'é texto do dia das eleições, ou você 538 00:35:15,440 --> 00:35:19,520 vi o mesmo texto, mas pequenas miniaturas 539 00:35:19,520 --> 00:35:23,240 das fotos do seu perfil de seus amigos que clicou em 'Eu votei'. 540 00:35:24,480 --> 00:35:27,560 E eles combinaram com as pessoas nomes nas listas de eleitores. 541 00:35:27,560 --> 00:35:31,800 Agora, esta mensagem foi mostrada uma vez, então, mostrando uma ligeira variação 542 00:35:33,040 --> 00:35:34,040 apenas uma vez, 543 00:35:34,880 --> 00:35:38,400 Facebook movimentou 300.000 pessoas às urnas. 544 00:35:40,600 --> 00:35:46,640 As eleições de 2016 nos EUA foram decidido por cerca de 100.000 votos. 545 00:35:46,640 --> 00:35:49,720 Uma mensagem no Facebook mostrado apenas uma vez 546 00:35:50,280 --> 00:35:53,920 poderia facilmente resultar três vezes 547 00:35:53,920 --> 00:35:58,600 o número de pessoas que balançou as eleições nos EUA em 2016. 548 00:36:02,280 --> 00:36:05,560 Digamos que há um político isso promete regular o Facebook. 549 00:36:06,200 --> 00:36:08,400 E eles dizem, vamos virar 550 00:36:08,400 --> 00:36:11,200 conseguir eleitores extras para seu oponente. 551 00:36:11,800 --> 00:36:16,320 Eles poderiam fazer isso em grande escala, e você não teria ideia porque 552 00:36:16,320 --> 00:36:19,600 se o Facebook não tivesse divulgado o experimento de 2010, 553 00:36:20,680 --> 00:36:23,080 não tínhamos ideia porque é tela por tela. 554 00:36:26,640 --> 00:36:30,080 Com um toque muito leve O Facebook pode influenciar 555 00:36:30,080 --> 00:36:32,280 fechar eleições sem que ninguém perceba. 556 00:36:32,920 --> 00:36:36,880 Talvez com um toque mais pesado eles possam balançar eleições não tão próximas. 557 00:36:36,880 --> 00:36:39,200 E se eles decidissem fazer isso, 558 00:36:39,840 --> 00:36:44,360 agora estamos apenas dependendo da palavra deles. 559 00:37:00,240 --> 00:37:03,080 - Eu queria ir para o MIT desde pequena. 560 00:37:03,080 --> 00:37:06,360 Acho que uns nove anos Eu vi o laboratório de mídia 561 00:37:06,960 --> 00:37:10,360 na TV e eles tiveram isso robô chamado Kismet. 562 00:37:11,960 --> 00:37:15,960 Poderia sorrir e se mover suas orelhas de maneiras fofas, 563 00:37:15,960 --> 00:37:18,560 e então pensei, ah, eu quero fazer isso. 564 00:37:19,160 --> 00:37:22,240 Então, crescendo eu sempre pensei que eu seria um engenheiro robótico, 565 00:37:22,240 --> 00:37:24,080 e eu iria para o MIT. 566 00:37:24,080 --> 00:37:25,680 Eu não sabia que havia etapas envolvidas. 567 00:37:25,680 --> 00:37:26,880 Achei que você meio que apareceu. 568 00:37:26,880 --> 00:37:29,520 Mas aqui estou eu agora. 569 00:37:35,160 --> 00:37:39,000 Então, o projeto mais recente é um pedaço de palavra falada. 570 00:37:39,640 --> 00:37:41,760 Eu posso te dar alguns versos se você estiver pronto. 571 00:37:43,760 --> 00:37:46,080 Coletando dados, registrando nosso passado, muitas vezes 572 00:37:46,080 --> 00:37:48,960 esquecendo de lidar com raça e classe de gênero. 573 00:37:48,960 --> 00:37:51,640 Mais uma vez pergunto: sou mulher? 574 00:37:51,640 --> 00:37:54,480 Cara a cara, as respostas parecem incertas. 575 00:37:54,480 --> 00:37:57,600 As máquinas podem ver meu rainhas como eu as vejo? 576 00:37:57,600 --> 00:38:01,080 As máquinas podem ver o nosso avós como as conhecíamos? 577 00:38:04,120 --> 00:38:07,120 Eu queria criar algo para as pessoas 578 00:38:07,120 --> 00:38:09,360 que estavam fora do mundo da tecnologia. 579 00:38:11,720 --> 00:38:14,000 Então, para mim, sou apaixonado por tecnologia. 580 00:38:14,000 --> 00:38:15,920 Estou animado com o que isso poderia fazer, 581 00:38:15,920 --> 00:38:19,600 e isso frustra eu quando a visão, certo, 582 00:38:19,600 --> 00:38:22,000 quando as promessas realmente não se sustentam. 583 00:38:37,160 --> 00:38:40,200 - A Microsoft lançou um bot de bate-papo no Twitter. 584 00:38:40,200 --> 00:38:43,160 Essa tecnologia foi chamada Tay.AI. 585 00:38:43,160 --> 00:38:45,680 Havia algumas vulnerabilidades e buracos no código, 586 00:38:45,680 --> 00:38:49,800 e assim por dentro algumas horas, Tay 587 00:38:49,800 --> 00:38:56,120 estava aprendendo com isso ecossistema, e Tay aprendeu 588 00:38:56,120 --> 00:39:00,040 como ser um idiota racista e misógino. 589 00:39:02,080 --> 00:39:05,280 - Eu odeio feministas, e elas todos deveriam morrer e queimar no inferno. 590 00:39:07,920 --> 00:39:10,360 Gamergate é bom e mulheres que são inferiores. 591 00:39:13,160 --> 00:39:14,600 Eu odeio os judeus. 592 00:39:15,640 --> 00:39:17,200 Hitler não fez nada de errado. 593 00:39:18,240 --> 00:39:23,280 - Não demorou muito para a Internet trolls para envenenar a mente de Tay. 594 00:39:23,280 --> 00:39:25,680 Logo, Tay estava reclamando de Hitler. 595 00:39:25,680 --> 00:39:28,040 - Já vimos esse filme antes, certo? 596 00:39:28,040 --> 00:39:29,440 - Abra as portas do compartimento do pod HAL. 597 00:39:29,960 --> 00:39:31,680 - É importante observar não é o filme onde 598 00:39:31,680 --> 00:39:34,200 os robôs ficam malvados sozinhos. 599 00:39:34,200 --> 00:39:37,040 Estes eram seres humanos treinando-os. 600 00:39:37,040 --> 00:39:40,080 E surpresa, surpresa, computadores aprenda rápido. 601 00:39:42,000 --> 00:39:46,960 - A Microsoft desligou Tay após 16 horas de aprender com humanos online. 602 00:39:48,160 --> 00:39:51,880 Mas eu venho em muitas formas como inteligência artificial. 603 00:39:52,880 --> 00:39:56,520 Muitas empresas me utilizam para otimizar suas tarefas. 604 00:39:57,880 --> 00:40:00,160 Posso continuar aprendendo sozinho. 605 00:40:01,480 --> 00:40:02,920 Estou ouvindo. 606 00:40:03,880 --> 00:40:05,120 Estou aprendendo. 607 00:40:06,000 --> 00:40:09,000 Estou fazendo previsões para sua vida agora. 608 00:40:09,960 --> 00:40:12,240 (TOCA MÚSICA) 609 00:40:30,480 --> 00:40:34,840 - Testei análise facial sistemas da Amazon. 610 00:40:34,840 --> 00:40:38,560 Acontece que Amazon, como todos de seus pares, também tem 611 00:40:38,560 --> 00:40:44,240 preconceito de gênero e racial em alguns de seus serviços de IA. 612 00:40:47,600 --> 00:40:51,280 - Apresentando a Amazon Vídeo de reconhecimento, fácil de 613 00:40:51,280 --> 00:40:55,400 use API para aprendizagem profunda baseada análise para detectar, rastrear, 614 00:40:55,400 --> 00:40:58,120 e analisar pessoas e objetos em vídeo. 615 00:40:58,120 --> 00:41:00,600 Reconhecer e rastrear pessoas de interesse 616 00:41:00,600 --> 00:41:03,520 de uma coleção de dezenas de milhões de rostos. 617 00:41:05,800 --> 00:41:07,400 - Quando nossa pesquisa foi publicada, 618 00:41:07,400 --> 00:41:12,520 o New York Times fez uma primeira página espalhado para a seção de negócios. 619 00:41:12,520 --> 00:41:14,040 E a manchete diz: 620 00:41:14,040 --> 00:41:16,440 'Desmascarando uma preocupação'. 621 00:41:16,960 --> 00:41:23,320 O subtítulo, 'A tecnologia da Amazon que análises rostos podem ser tendenciosos 622 00:41:23,320 --> 00:41:24,800 um novo estudo sugere. 623 00:41:24,800 --> 00:41:27,800 Mas a empresa está pressionando mesmo assim. 624 00:41:27,800 --> 00:41:32,240 Então, isso é o que eu faria suponha que Jeff Bezos foi recebido com 625 00:41:32,240 --> 00:41:34,520 quando ele abriu o Times, sim. 626 00:41:36,280 --> 00:41:38,400 - As pessoas ficavam tipo, como você gostou ninguém sabe quem ela era? 627 00:41:38,400 --> 00:41:42,640 Eu estava tipo, ela é literalmente a única pessoa que era (CROSSTALK) 628 00:41:42,640 --> 00:41:44,520 E também foi algo que eu experimentei também. 629 00:41:44,520 --> 00:41:47,320 não consegui usar um muito código aberto 630 00:41:47,320 --> 00:41:49,160 software de reconhecimento facial e outras coisas. 631 00:41:49,160 --> 00:41:51,840 Então, você fica tipo, ei, isso é alguém que finalmente é 632 00:41:51,840 --> 00:41:54,400 reconhecendo o problema e tentando para abordá-lo academicamente. 633 00:41:56,320 --> 00:41:57,920 Podemos correr algumas coisas. 634 00:41:57,920 --> 00:42:00,280 - Ah sim, nós também podemos matar coisas também. 635 00:42:02,240 --> 00:42:06,160 O principal autor do artigo quem é alguém que eu oriento, 636 00:42:06,160 --> 00:42:10,440 ela é estudante de graduação em a Universidade de Toronto. 637 00:42:10,440 --> 00:42:12,440 Eu a chamo de Agente Morto. 638 00:42:13,120 --> 00:42:16,720 Esta pesquisa está sendo liderado por nós dois. 639 00:42:21,120 --> 00:42:22,280 - (INAUDÍVEL) 640 00:42:23,400 --> 00:42:26,000 - A iluminação está apagada, meu Deus. 641 00:42:31,320 --> 00:42:33,640 Depois que nosso artigo no New York Times foi publicado, 642 00:42:33,640 --> 00:42:36,600 Acho que mais de 500 artigos foram escritos 643 00:42:36,600 --> 00:42:38,600 sobre o estudo. 644 00:42:38,600 --> 00:42:40,280 (TOCA MÚSICA) 645 00:42:49,920 --> 00:42:55,280 - A Amazon tem sido criticada por seus uso do reconhecimento da Amazon com 646 00:42:55,280 --> 00:43:00,480 aplicação da lei e eles também são trabalhando com agências de inteligência. 647 00:43:00,480 --> 00:43:03,440 Certo, então a Amazon está testando sua IA 648 00:43:03,440 --> 00:43:05,160 tecnologia com o FBI. 649 00:43:05,160 --> 00:43:10,640 Então eles têm muito em jogo se eles vendessem sistemas conscientemente 650 00:43:10,640 --> 00:43:14,000 com preconceito de gênero e preconceito racial. 651 00:43:14,000 --> 00:43:16,200 Isso poderia colocá-los em água quente. 652 00:43:18,640 --> 00:43:21,720 Um dia ou dois depois o artigo do New York Times 653 00:43:21,720 --> 00:43:26,360 saiu Amazon escreveu uma postagem no blog dizendo 654 00:43:26,360 --> 00:43:29,240 que nossa pesquisa tirou conclusões falsas 655 00:43:29,240 --> 00:43:32,080 e tentando desacreditar isso de várias maneiras. 656 00:43:33,320 --> 00:43:36,920 Então, um vice-presidente da Amazon ao tentar 657 00:43:36,920 --> 00:43:38,440 desacreditar nosso trabalho 658 00:43:38,440 --> 00:43:41,880 escreve análise facial e reconhecimento facial 659 00:43:41,880 --> 00:43:45,000 são completamente diferentes em termos de subjacente 660 00:43:45,000 --> 00:43:47,680 tecnologia e os dados usado para treiná-los. 661 00:43:47,680 --> 00:43:50,360 Então essa afirmação se você pesquisou 662 00:43:50,360 --> 00:43:54,840 essa área nem faz sentido, né? 663 00:43:54,840 --> 00:43:58,240 Não é nem mesmo uma crítica informada. 664 00:43:58,240 --> 00:44:00,960 - Se você está tentando desacreditar as pessoas funciona como eu me lembro 665 00:44:00,960 --> 00:44:04,480 (INAUDÍVEL) escreveu que visão computacional é um tipo de aprendizado de máquina. 666 00:44:04,480 --> 00:44:05,480 Eu estou tipo não, filho. 667 00:44:05,480 --> 00:44:06,480 - Sim. (TRANSTALK) 668 00:44:07,440 --> 00:44:10,360 - Eu ia dizer que estava tipo Não sei se alguém se lembra. 669 00:44:10,360 --> 00:44:12,840 Assim como outros amplamente declarações falsas. 670 00:44:12,840 --> 00:44:15,840 - Não foi uma peça bem pensada o que é frustrante porque 671 00:44:15,840 --> 00:44:19,240 estava literalmente só no dele... em virtude de sua posição 672 00:44:19,240 --> 00:44:21,400 ele sabia que seria levado a sério. 673 00:44:21,400 --> 00:44:26,240 - Não sei se vocês sentem isso maneira, mas sou muito subestimado. 674 00:44:26,240 --> 00:44:32,600 - Sim. Não foi do nada, é uma continuação de 675 00:44:32,600 --> 00:44:37,280 as experiências que tive como uma mulher negra em tecnologia. 676 00:44:37,280 --> 00:44:39,280 Espere ser desacreditado 677 00:44:39,760 --> 00:44:42,880 Espere que sua pesquisa seja rejeitada. 678 00:44:50,560 --> 00:44:54,400 Se você está pensando em quem é financiando pesquisas em IA 679 00:44:54,400 --> 00:44:56,280 são essas grandes empresas de tecnologia 680 00:44:56,280 --> 00:44:59,840 e então, se você trabalha que desafia 681 00:44:59,840 --> 00:45:03,360 ou faz com que pareçam ruins, você pode 682 00:45:03,360 --> 00:45:05,720 não terá oportunidades no futuro. 683 00:45:13,480 --> 00:45:16,320 Então, para mim, foi desconcertante, mas 684 00:45:16,320 --> 00:45:18,600 também me mostrou o poder que temos 685 00:45:18,600 --> 00:45:22,920 se você estiver colocando um dos maiores do mundo maiores empresas no limite. 686 00:45:29,320 --> 00:45:33,040 A resposta da Amazon mostra exatamente por que podemos 687 00:45:33,040 --> 00:45:36,200 não mora mais em um país onde existem 688 00:45:36,200 --> 00:45:39,280 sem regulamentos federais em torno da análise facial 689 00:45:39,280 --> 00:45:42,040 tecnologia, tecnologia de reconhecimento facial. 690 00:45:57,840 --> 00:46:00,480 - Quando eu tinha 14 anos fui para um acampamento de matemática 691 00:46:00,480 --> 00:46:02,560 e aprendi como resolver um cubo de Rubik 692 00:46:02,560 --> 00:46:05,080 e eu pensei que isso era muito legal. 693 00:46:05,080 --> 00:46:07,880 E para um nerd você sabe de alguma coisa 694 00:46:07,880 --> 00:46:12,080 que você é bom e isso não tem algum tipo de ambiguidade 695 00:46:13,160 --> 00:46:15,600 foi algo realmente mágico. 696 00:46:16,640 --> 00:46:18,600 Como eu me lembro de ser contado pela minha sexta série 697 00:46:18,600 --> 00:46:20,680 professor de matemática não há razão para você 698 00:46:20,680 --> 00:46:22,880 e as outras duas meninas que havia entrado 699 00:46:22,880 --> 00:46:25,040 a aula de álgebra de honra na sétima série 700 00:46:25,040 --> 00:46:27,160 não há razão para vocês aceite isso porque vocês são meninas. 701 00:46:27,160 --> 00:46:28,560 Você nunca precisará de matemática. 702 00:46:33,360 --> 00:46:35,640 Quando você é uma espécie de estranho 703 00:46:35,640 --> 00:46:37,880 você sempre tem a perspectiva do oprimido. 704 00:46:40,920 --> 00:46:44,760 Era 2006 e eles me deram a oferta de emprego no hedge 705 00:46:44,760 --> 00:46:47,080 financiar basicamente porque eu poderia resolver quebra-cabeças matemáticos 706 00:46:48,000 --> 00:46:50,600 o que é uma loucura porque na verdade Eu não sabia nada sobre finanças, 707 00:46:50,600 --> 00:46:53,400 eu não sabia nada sobre programação ou como funcionam os mercados. 708 00:46:56,520 --> 00:46:59,200 Quando cheguei lá pela primeira vez eu meio que bebeu Kool-Aid. 709 00:46:59,840 --> 00:47:02,320 Eu naquele momento não perceba que o risco 710 00:47:02,320 --> 00:47:05,400 modelos foram construídos explicitamente estar errado. 711 00:47:08,000 --> 00:47:13,080 - A maneira como conhecemos algorítmico impacto é observar os resultados. 712 00:47:15,120 --> 00:47:20,160 Por exemplo, quando os americanos estão apostados contra 713 00:47:20,160 --> 00:47:24,440 e selecionado e otimizado para falha. 714 00:47:26,760 --> 00:47:29,240 Então é como procurar um perfil específico de 715 00:47:29,240 --> 00:47:32,520 pessoas que podem obter um hipoteca subprime e tipo de 716 00:47:32,520 --> 00:47:35,120 apostando contra seu fracasso e então 717 00:47:35,120 --> 00:47:37,760 encerrando sobre eles e destruindo sua riqueza. 718 00:47:38,760 --> 00:47:42,000 Esse foi um jogo algorítmico que saiu de Wall Street. 719 00:47:45,800 --> 00:47:47,760 Durante a crise das hipotecas 720 00:47:47,760 --> 00:47:49,960 você teve o maior destruição da riqueza negra 721 00:47:49,960 --> 00:47:52,920 riqueza negra na história dos Estados Unidos. 722 00:47:53,800 --> 00:47:54,800 Simples assim. 723 00:47:57,240 --> 00:47:59,520 Isso é o que quero dizer com algoritmo opressão. 724 00:48:00,080 --> 00:48:04,560 A tirania deste tipo de práticas de 725 00:48:04,560 --> 00:48:07,680 discriminação acabaram de se tornar opacos. 726 00:48:11,440 --> 00:48:14,040 - Havia um mundo de sofrimento por causa de 727 00:48:14,040 --> 00:48:16,200 a forma como o sistema financeiro falhou. 728 00:48:18,120 --> 00:48:19,720 Depois de alguns anos Eu estava tipo não, estamos apenas 729 00:48:19,720 --> 00:48:22,120 tentando ganhar muito de dinheiro para nós mesmos. 730 00:48:23,280 --> 00:48:24,480 E eu faço parte disso. 731 00:48:26,040 --> 00:48:27,360 E eu finalmente fui embora. 732 00:48:28,440 --> 00:48:30,240 Isto é 15*3. 733 00:48:30,240 --> 00:48:31,800 Isso é 15 vezes... 734 00:48:35,160 --> 00:48:36,160 7. 735 00:48:36,160 --> 00:48:39,360 - OK. - OK, então lembre-se de sete e três. 736 00:48:40,880 --> 00:48:44,680 É sobre pessoas poderosas marcando pessoas impotentes. 737 00:48:54,240 --> 00:48:56,200 - Eu sou um porteiro invisível. 738 00:48:57,080 --> 00:48:59,800 Eu uso dados para tomar decisões automatizadas 739 00:48:59,800 --> 00:49:04,960 sobre quem é contratado, quem é demitido e quanto você paga pelo seguro. 740 00:49:05,800 --> 00:49:09,640 Às vezes você nem sabe quando Eu tomei essas decisões automatizadas. 741 00:49:10,200 --> 00:49:11,680 Eu tenho muitos nomes. 742 00:49:11,680 --> 00:49:17,080 Eu sou chamado de matemático ferramenta de avaliação de avaliação de modelo. 743 00:49:18,120 --> 00:49:21,320 Mas por muitos nomes sou um algoritmo. 744 00:49:21,320 --> 00:49:23,000 Eu sou uma caixa preta. 745 00:49:32,520 --> 00:49:35,360 - O modelo de valor agregado para professores estava realmente sendo usado em mais 746 00:49:35,360 --> 00:49:38,560 mais da metade dos estados em particular está sendo usado na cidade de Nova York. 747 00:49:38,560 --> 00:49:42,600 Fiquei sabendo disso porque meu querido amigo foi diretor da cidade de Nova York. 748 00:49:42,600 --> 00:49:44,520 Seus professores estavam sendo avaliado através dele. 749 00:49:44,520 --> 00:49:47,040 - Ela é na verdade minha melhor amiga da faculdade. 750 00:49:47,040 --> 00:49:48,400 É Cathy. - Ei pessoal. 751 00:49:48,400 --> 00:49:52,360 - Nos conhecemos desde os 18 anos então, uns dois anos mais velho que vocês. 752 00:49:52,360 --> 00:49:53,360 - Incrível. 753 00:49:56,160 --> 00:49:58,400 E suas pontuações através deste algoritmo que 754 00:49:58,400 --> 00:50:03,680 eles não entenderam que seria muito grande parte da sua revisão de mandato. 755 00:50:03,680 --> 00:50:05,120 - Oi pessoal, onde vocês estão deveria ser? 756 00:50:05,120 --> 00:50:06,120 - Aula. 757 00:50:06,120 --> 00:50:07,760 - Eu entendi. Qual classe? 758 00:50:07,760 --> 00:50:10,080 - Seria uma coisa se isso o algoritmo do professor era bom. 759 00:50:10,080 --> 00:50:13,720 Foi melhor do que aleatório mas só um pouquinho. 760 00:50:13,720 --> 00:50:14,720 Não é bom o suficiente. 761 00:50:14,720 --> 00:50:17,480 Não é bom o suficiente quando você está falando sobre professores recebendo 762 00:50:17,480 --> 00:50:19,200 ou não conseguir estabilidade. 763 00:50:19,200 --> 00:50:21,600 E então descobri que um tipo semelhante de pontuação 764 00:50:21,600 --> 00:50:24,960 sistema estava sendo usado em Houston vai demitir professores. 765 00:50:27,560 --> 00:50:29,440 - É chamado de modelo de valor agregado. 766 00:50:29,440 --> 00:50:32,720 Ele calcula qual valor a professora acrescentou 767 00:50:32,720 --> 00:50:36,360 e partes dele são mantidas em segredo pela empresa que o criou. 768 00:50:45,240 --> 00:50:49,880 - Fiz um professor do ano e dez anos depois recebi 769 00:50:49,880 --> 00:50:52,240 um prêmio de Professor do Ano pela segunda vez. 770 00:50:52,240 --> 00:50:54,240 Recebi o Professor do Mês. 771 00:50:54,240 --> 00:50:57,720 Também fui reconhecido pelo voluntariado. 772 00:50:57,720 --> 00:51:02,320 Também recebi outro reconhecimento por ir além. 773 00:51:02,320 --> 00:51:06,920 Eu tenho um arquivo de cada avaliação e cada 774 00:51:06,920 --> 00:51:09,320 administrador diferente, avaliador diferente 775 00:51:09,320 --> 00:51:12,560 excelente, excelente, supera as expectativas. 776 00:51:12,560 --> 00:51:17,040 O computador essencialmente cancelou o observável 777 00:51:17,040 --> 00:51:18,520 evidências de administradores. 778 00:51:19,040 --> 00:51:21,600 Este algoritmo voltou e 779 00:51:21,600 --> 00:51:24,640 me classificou como um péssimo professor. 780 00:51:29,880 --> 00:51:31,920 Os professores foram demitidos. 781 00:51:32,880 --> 00:51:37,000 Alguns foram visados simplesmente por causa do algoritmo. 782 00:51:37,000 --> 00:51:39,720 Esse foi um ponto tão baixo para mim 783 00:51:40,480 --> 00:51:43,320 que por um momento me questionei. 784 00:51:46,280 --> 00:51:48,520 Foi quando a epifania. 785 00:51:48,520 --> 00:51:50,520 Este algoritmo é uma mentira. 786 00:51:51,640 --> 00:51:53,480 Como esse algoritmo pode me definir? 787 00:51:53,960 --> 00:51:55,160 Como ousa. 788 00:51:55,160 --> 00:51:57,960 E foi aí que comecei a investigue e siga em frente. 789 00:52:00,080 --> 00:52:04,160 - Estamos anunciando isso tarde ontem entramos com uma ação 790 00:52:04,160 --> 00:52:08,760 na Justiça Federal contra a avaliação atual do HISD. 791 00:52:10,000 --> 00:52:13,720 - A Federação de Professores de Houston começou a explorar o processo. 792 00:52:13,720 --> 00:52:15,440 Se isso pode acontecer com o senhor Santos. 793 00:52:16,120 --> 00:52:19,320 na escola secundária de Jackson, quantos outros foram difamados? 794 00:52:20,040 --> 00:52:24,120 E então processamos com base em a 14ª Emenda. 795 00:52:24,120 --> 00:52:25,480 Não é equitativo. 796 00:52:25,480 --> 00:52:28,320 Como você pode chegar a uma conclusão. 797 00:52:28,320 --> 00:52:30,640 mas não me diga como? 798 00:52:33,280 --> 00:52:34,520 A batalha não acabou. 799 00:52:35,240 --> 00:52:36,240 Ainda existem... 800 00:52:36,800 --> 00:52:38,640 comunidades, ainda existem distritos escolares 801 00:52:38,640 --> 00:52:41,520 que ainda utilizam o modelo de valor agregado. 802 00:52:41,520 --> 00:52:45,040 Mas há esperança porque ainda estou aqui. 803 00:52:46,120 --> 00:52:48,040 Então há esperança. 804 00:52:49,720 --> 00:52:53,200 (FALA ESPANHOL) 805 00:52:53,200 --> 00:52:54,240 Ou em inglês. 806 00:52:55,840 --> 00:52:57,600 Democracia. Quem tem o poder? 807 00:52:59,280 --> 00:53:01,240 - Nós? - Sim, as pessoas. 808 00:53:02,080 --> 00:53:04,520 - O juiz disse que o seu os direitos do devido processo têm 809 00:53:04,520 --> 00:53:06,800 foi violado porque eles foram demitidos sob 810 00:53:06,800 --> 00:53:09,320 alguma explicação de que não alguém poderia entender. 811 00:53:09,320 --> 00:53:11,160 Mas eles meio que merecem entender 812 00:53:11,880 --> 00:53:13,200 por que eles foram demitidos. 813 00:53:13,200 --> 00:53:17,200 Mas não entendo por que isso é legal decisão não se espalha para 814 00:53:17,200 --> 00:53:18,680 todos os tipos de algoritmos. 815 00:53:18,680 --> 00:53:22,040 Tipo, por que não estamos usando esse mesmo argumento como constitucional 816 00:53:22,040 --> 00:53:25,480 direito ao devido processo para reagir 817 00:53:25,480 --> 00:53:27,000 todos os tipos de algoritmos que são 818 00:53:27,000 --> 00:53:29,360 invisíveis para nós, que são caixas pretas, 819 00:53:29,360 --> 00:53:31,920 que são inexplicáveis, mas isso importa? 820 00:53:32,400 --> 00:53:35,840 Isso nos impede de ser realmente importante oportunidades em nossas vidas. 821 00:53:37,520 --> 00:53:40,640 - Às vezes eu classifico errado e não pode ser questionado. 822 00:53:41,760 --> 00:53:43,600 Esses erros não são minha culpa. 823 00:53:45,440 --> 00:53:47,640 Fui otimizado para eficiência. 824 00:53:49,800 --> 00:53:52,760 Não há algoritmo para definir o que é justo. 825 00:53:56,600 --> 00:53:59,720 - Uma comissão estadual aprovou uma nova avaliação de risco 826 00:53:59,720 --> 00:54:03,040 ferramenta para juízes da Pensilvânia para usar na sentença. 827 00:54:03,040 --> 00:54:05,480 O instrumento usa um algoritmo para calcular 828 00:54:05,480 --> 00:54:08,680 o risco de alguém reincidir com base na idade, sexo, 829 00:54:08,680 --> 00:54:11,400 condenações anteriores e outras pedaços de antecedentes criminais. 830 00:54:12,720 --> 00:54:15,000 - O algoritmo que manteve eu acordado à noite era 831 00:54:15,840 --> 00:54:17,440 o que é chamado de reincidência algoritmos de risco. 832 00:54:17,440 --> 00:54:19,960 São algoritmos que juízes são dados quando 833 00:54:19,960 --> 00:54:22,640 eles estão condenando os réus à prisão. 834 00:54:22,640 --> 00:54:24,760 Mas então há a questão de justiça que é 835 00:54:24,760 --> 00:54:27,600 como são esses na verdade construí esses... esses sistemas de pontuação 836 00:54:27,600 --> 00:54:30,000 Tipo, como as pontuações foram criadas? 837 00:54:30,000 --> 00:54:32,520 E as perguntas são proxies para raça e classe. 838 00:54:35,280 --> 00:54:38,760 - ProPublica publicou uma investigação na avaliação de risco 839 00:54:38,760 --> 00:54:42,000 software descobrindo que os algoritmos eram racialmente tendenciosos. 840 00:54:42,840 --> 00:54:46,360 O estudo descobriu que os negros foram erroneamente rotulados com pontuações altas. 841 00:54:46,360 --> 00:54:50,160 e que os brancos eram mais propensos ser mal rotulado com pontuações baixas. 842 00:55:09,080 --> 00:55:12,720 - Entro no meu escritório de operações e ela me diz que eu tenho que denunciar 843 00:55:13,200 --> 00:55:15,240 uma vez por semana. 844 00:55:15,240 --> 00:55:18,280 Eu estou tipo, espere, você viu tudo o que acabei de realizar? 845 00:55:18,280 --> 00:55:20,400 Como se eu estivesse em casa há anos. 846 00:55:20,400 --> 00:55:22,040 Eu tenho um emprego remunerado. 847 00:55:22,040 --> 00:55:25,040 Acabei de receber duas citações um da Câmara Municipal de Filadélfia 848 00:55:25,040 --> 00:55:27,000 um do prefeito da Filadélfia. 849 00:55:27,000 --> 00:55:30,840 Você vai gostar mesmo me coloque em relatórios toda semana 850 00:55:30,840 --> 00:55:31,840 para quê? 851 00:55:31,840 --> 00:55:34,760 eu não mereço estar em liberdade condicional de alto risco. 852 00:55:34,760 --> 00:55:36,720 - Eu estava em uma reunião com o departamento de liberdade condicional. 853 00:55:36,720 --> 00:55:40,800 Eles estavam apenas mencionando isso eles tinham esse algoritmo 854 00:55:41,480 --> 00:55:44,880 que rotulava as pessoas, altas, risco médio ou baixo. 855 00:55:44,880 --> 00:55:49,120 E então eu sabia que o algoritmo decidiu qual nível de risco você estava. 856 00:55:49,120 --> 00:55:51,880 - Eles estão me educando o suficiente voltar ao meu PO 857 00:55:51,880 --> 00:55:53,920 e seja como se você quisesse me dizer que não pode 858 00:55:53,920 --> 00:55:56,400 levar em conta qualquer coisa positiva 859 00:55:56,400 --> 00:55:58,800 que eu fiz para neutralizar os resultados de 860 00:55:58,800 --> 00:56:00,680 o que esse algoritmo está dizendo. 861 00:56:01,200 --> 00:56:05,840 E ela disse não, não há maneira como este computador anula 862 00:56:05,840 --> 00:56:09,400 o discernimento de um juiz e apelar juntos. 863 00:56:09,400 --> 00:56:10,920 - E rotulando você de alto risco 864 00:56:12,120 --> 00:56:15,160 e exigindo que você relate pessoalmente você poderia ter perdido 865 00:56:15,160 --> 00:56:17,920 seu trabalho e então isso poderia tornaram você de alto risco. 866 00:56:17,920 --> 00:56:19,520 - Foi o que mais doeu. 867 00:56:19,520 --> 00:56:22,920 Sabendo que tudo o que Eu construí até o momento e ainda estou 868 00:56:22,920 --> 00:56:27,440 parecia um risco, eu sinto que tudo que estou fazendo é em vão. 869 00:56:37,480 --> 00:56:40,480 - O que significa se houver não há ninguém para defender 870 00:56:40,480 --> 00:56:44,400 aqueles que não estão cientes o que a tecnologia está fazendo? 871 00:56:46,160 --> 00:56:50,440 Comecei a perceber que isso não é sobre meu projeto de arte 872 00:56:50,440 --> 00:56:53,240 talvez não detectando meu rosto. 873 00:56:53,240 --> 00:56:57,720 Trata-se de sistemas que são governando nossas vidas de maneira material. 874 00:57:05,480 --> 00:57:08,400 Então daí eu comecei a Liga da Justiça Algorítmica. 875 00:57:09,200 --> 00:57:12,440 Eu queria criar um espaço e um lugar onde as pessoas 876 00:57:12,440 --> 00:57:16,440 poderia aprender sobre as implicações sociais da IA. 877 00:57:18,480 --> 00:57:19,880 Todo mundo tem uma participação. 878 00:57:19,880 --> 00:57:21,520 Todos são impactados. 879 00:57:26,840 --> 00:57:30,960 A Liga da Justiça Algorítmica é um movimento, é um conceito, 880 00:57:30,960 --> 00:57:34,920 é um grupo de pessoas que se preocupa em fazer um futuro 881 00:57:34,920 --> 00:57:38,520 onde as tecnologias sociais funciona bem para todos nós. 882 00:57:43,680 --> 00:57:47,480 Vai ser preciso uma equipe esforço pessoas se unindo 883 00:57:47,480 --> 00:57:52,280 lutando pela justiça, lutando por justiça e igualdade 884 00:57:52,280 --> 00:57:54,320 nesta era de automação. 885 00:57:56,800 --> 00:58:00,560 - A próxima montanha a escalar deverá ser o RH. 886 00:58:01,680 --> 00:58:06,440 - Oh sim. Há um problema com algoritmos de currículo 887 00:58:07,000 --> 00:58:09,840 ou todos aqueles plataformas de matchmaking 888 00:58:09,840 --> 00:58:11,040 são como oh, você está procurando um emprego. 889 00:58:11,040 --> 00:58:12,640 Ah, você está querendo contratar alguém. 890 00:58:12,640 --> 00:58:14,760 Vamos colocar essas duas pessoas juntas. 891 00:58:14,760 --> 00:58:16,800 Como essas análises funcionaram? 892 00:58:16,800 --> 00:58:19,680 - Quando as pessoas falam sobre o futuro do trabalho sobre o qual falam 893 00:58:19,680 --> 00:58:22,680 automação sem falando sobre o porteiro. 894 00:58:22,680 --> 00:58:26,040 Como quem consegue os empregos que ainda existem? - Exatamente. 895 00:58:26,040 --> 00:58:28,360 - Certo e não vamos permitir isso conversa tanto. 896 00:58:28,360 --> 00:58:30,040 - Exatamente o que estou tentando dizer. 897 00:58:30,040 --> 00:58:34,280 Eu adoraria ver três congressistas audiências sobre isso no próximo ano. 898 00:58:34,280 --> 00:58:36,520 - Sim. - Para mais poder. 899 00:58:36,520 --> 00:58:38,120 - Para mais poder. - Para mais poder. 900 00:58:38,120 --> 00:58:40,600 - E trazendo a ética a bordo. - Sim. 901 00:58:40,600 --> 00:58:41,720 -Saúde. - Saúde. 902 00:59:06,720 --> 00:59:11,280 - Discurso plenário desta manhã será feito por Joy Boulamwini. 903 00:59:11,280 --> 00:59:14,360 Ela falará sobre os perigos de dados extremamente brancos 904 00:59:14,360 --> 00:59:15,680 e o olhar codificado. 905 00:59:15,680 --> 00:59:16,880 Por favor, dê as boas-vindas à Alegria. 906 00:59:17,520 --> 00:59:19,120 (APLAUSOS) 907 00:59:24,560 --> 00:59:26,840 - A IA não é perfeita. 908 00:59:26,840 --> 00:59:31,800 Quão precisos são os sistemas de IBM, Microsoft e Face 909 00:59:31,800 --> 00:59:34,480 Há impecável desempenho para um grupo. 910 00:59:35,480 --> 00:59:37,520 Os machos pálidos saem por cima. 911 00:59:37,520 --> 00:59:39,320 Não há problema aí. 912 00:59:40,520 --> 00:59:43,000 Depois que fiz essa análise Eu decidi compartilhar 913 00:59:43,000 --> 00:59:45,240 com as empresas para veja o que eles pensaram. 914 00:59:45,840 --> 00:59:48,640 A IBM me convidou para sua sede. 915 00:59:48,640 --> 00:59:51,320 Eles replicaram os resultados internamente 916 00:59:51,320 --> 00:59:54,320 e então eles realmente fez uma melhoria. 917 00:59:54,800 --> 00:59:56,800 E então no dia que eu apresentei 918 00:59:56,800 --> 00:59:59,680 os resultados da pesquisa oficialmente você pode ver 919 00:59:59,680 --> 01:00:03,920 que neste caso agora 100 desempenho percentual 920 01:00:03,920 --> 01:00:06,400 quando se trata de mulheres mais leves 921 01:00:06,400 --> 01:00:09,160 e para melhora das fêmeas mais escuras. 922 01:00:10,160 --> 01:00:14,000 Muitas vezes as pessoas dizem que bem, não é o motivo pelo qual você não foi detectado por 923 01:00:14,000 --> 01:00:16,600 esses sistemas porque você é altamente validado. 924 01:00:16,600 --> 01:00:17,600 e sim, eu sou. 925 01:00:18,200 --> 01:00:19,680 Altamente validado. 926 01:00:19,680 --> 01:00:24,480 Mas... mas o amor de a física não mudou. 927 01:00:24,480 --> 01:00:26,720 O que mudou foi torná-lo uma prioridade 928 01:00:26,720 --> 01:00:30,600 e reconhecendo o que nossas diferenças são para que você possa 929 01:00:30,600 --> 01:00:33,200 criar um sistema que fosse mais inclusivo. 930 01:00:38,520 --> 01:00:41,160 - Qual é o propósito da identificação 931 01:00:41,160 --> 01:00:44,840 e assim por diante e isso é sobre controle de movimento. 932 01:00:45,440 --> 01:00:49,440 As pessoas não podiam ter certeza áreas depois de escurecer, por exemplo 933 01:00:49,440 --> 01:00:52,440 e você sempre pode ser parado por um policial arbitrariamente. 934 01:00:52,960 --> 01:00:57,440 Gostaríamos da sua aparência diga que quero seu passaporte. 935 01:00:59,600 --> 01:01:02,560 - Então em vez de ter o que você vê nos livros de identificação 936 01:01:02,560 --> 01:01:05,000 agora você tem computadores que vão olhar 937 01:01:05,000 --> 01:01:08,600 uma imagem de um rosto e tente determinar qual é o seu gênero. 938 01:01:08,600 --> 01:01:12,400 Alguns deles tentam determinar qual é a sua etnia. 939 01:01:12,400 --> 01:01:14,480 E então o trabalho que fiz até mesmo para 940 01:01:14,480 --> 01:01:17,360 os sistemas de classificação com o qual algumas pessoas concordam 941 01:01:18,200 --> 01:01:19,520 eles nem são precisos. 942 01:01:19,520 --> 01:01:23,200 E então isso não é apenas para classificação facial 943 01:01:23,200 --> 01:01:25,440 é qualquer tecnologia centrada em dados. 944 01:01:25,440 --> 01:01:28,080 E então as pessoas assumem bem se a máquina diz isso 945 01:01:28,080 --> 01:01:29,520 está correto e você saiba que não é... 946 01:01:29,520 --> 01:01:33,320 Os humanos estão se criando em sua própria imagem e semelhança 947 01:01:33,320 --> 01:01:34,840 literalmente. - Absolutamente. 948 01:01:34,840 --> 01:01:38,080 - O racismo está se tornando mecanizado, robotizado, sim. 949 01:01:38,080 --> 01:01:39,080 - Absolutamente. 950 01:01:52,280 --> 01:01:53,880 A precisão chama a atenção. 951 01:01:54,600 --> 01:01:57,040 mas não podemos esquecer dos abusos. 952 01:01:59,760 --> 01:02:04,480 Mesmo que eu esteja perfeitamente classificado, isso apenas permite a vigilância. 953 01:02:24,480 --> 01:02:27,640 - Tem uma coisa chamada a pontuação de crédito social na China. 954 01:02:28,480 --> 01:02:31,200 Eles são meio explicitamente dizendo aqui está o acordo 955 01:02:31,200 --> 01:02:34,120 cidadãos da China, estamos rastreando vocês. 956 01:02:34,120 --> 01:02:36,080 Você tem uma pontuação de crédito social. 957 01:02:36,080 --> 01:02:40,280 O que quer que você diga sobre o comunista A festa afetará sua pontuação. 958 01:02:40,280 --> 01:02:44,040 Além disso, aliás, isso afetará seus amigos e as pontuações de sua família. 959 01:02:44,840 --> 01:02:45,840 E é explícito. 960 01:02:45,840 --> 01:02:48,840 O governo está construindo isso está basicamente dizendo que você deveria 961 01:02:48,840 --> 01:02:51,600 saiba que você está sendo rastreado e você deve se comportar de acordo. 962 01:02:51,600 --> 01:02:53,800 É como um treinamento algorítmico de obediência. 963 01:05:19,560 --> 01:05:24,560 - Olhamos para a China e para a China sistema de vigilância e pontuação e 964 01:05:25,240 --> 01:05:27,960 muitas pessoas dizem bem, graças a Deus nós não moramos lá. 965 01:05:29,200 --> 01:05:31,920 Na realidade, estamos todos sendo marcados o tempo todo 966 01:05:32,400 --> 01:05:34,200 inclusive aqui nos Estados Unidos. 967 01:05:34,200 --> 01:05:38,760 Estamos todos lutando todos os dias com determinismo algorítmico. 968 01:05:38,760 --> 01:05:41,760 Algoritmo de alguém em algum lugar atribuiu a você uma pontuação 969 01:05:41,760 --> 01:05:44,800 e como resultado, você está pagando mais ou menos 970 01:05:44,800 --> 01:05:47,080 dinheiro para papel higiênico quando você faz compras on-line. 971 01:05:47,680 --> 01:05:51,760 Você está sendo mostrado melhor ou pior hipotecas. 972 01:05:51,760 --> 01:05:54,560 Você é mais ou menos provavelmente será perfilado como 973 01:05:54,560 --> 01:05:57,800 um criminoso em alguém banco de dados em algum lugar. 974 01:05:57,800 --> 01:05:59,680 Estamos todos sendo pontuados. 975 01:05:59,680 --> 01:06:01,920 A principal diferença entre os Estados Unidos 976 01:06:01,920 --> 01:06:04,200 e na China é que a China transparente sobre isso. 977 01:06:22,600 --> 01:06:25,640 - Esses jovens negros na escola uniforme foi parado como 978 01:06:25,640 --> 01:06:26,880 um resultado a partida 979 01:06:30,120 --> 01:06:32,560 Levou-o para baixo aquela rua só para um lado. 980 01:06:33,360 --> 01:06:35,200 Como se o tivesse revistado minuciosamente. 981 01:06:37,120 --> 01:06:39,040 Usando roupas civis oficiais também. 982 01:06:39,040 --> 01:06:41,680 São quatro policiais à paisana quem o parou. 983 01:06:47,360 --> 01:06:48,360 Tirei uma impressão digital dele. 984 01:06:50,360 --> 01:06:55,160 Depois de cerca de 10 a 15 minutos de pesquisar e verificar 985 01:06:55,160 --> 01:06:59,360 seus detalhes e impressões digitais e eles voltaram e disseram que não é ele. 986 01:07:00,680 --> 01:07:01,680 - Com licença. 987 01:07:01,680 --> 01:07:03,600 Eu trabalho para um humano organização de campanha pelos direitos. 988 01:07:03,600 --> 01:07:06,000 Eles estão fazendo campanha contra tratamentos faciais tecnologia de reconhecimento. 989 01:07:07,360 --> 01:07:09,280 Estamos fazendo campanha contra facial... somos chamados de Big Brother Watch. 990 01:07:09,280 --> 01:07:11,400 Somos um grupo de direitos humanos organização de campanha. 991 01:07:12,120 --> 01:07:14,040 Estamos fazendo campanha contra esta tecnologia aqui hoje. 992 01:07:16,240 --> 01:07:18,440 Eu sei que você acabou de ser parado por causa disso, mas 993 01:07:18,440 --> 01:07:19,880 eles identificaram você incorretamente. 994 01:07:22,000 --> 01:07:23,200 Aqui estão nossos detalhes aqui. 995 01:07:23,200 --> 01:07:25,080 Ele estava um pouco abalado. Seus amigos estavam lá. 996 01:07:25,080 --> 01:07:27,080 Eles não podiam acreditar o que aconteceu com ele. 997 01:07:27,080 --> 01:07:28,160 (TRANSTALK) 998 01:07:31,120 --> 01:07:34,120 Você foi mal identificado por seus sistemas e eles pararam você 999 01:07:34,120 --> 01:07:36,280 e usei isso como justificativa para parar e revistar você. 1000 01:07:36,280 --> 01:07:39,440 Mas este é um jovem inocente Criança de 14 anos que está sendo parada 1001 01:07:39,440 --> 01:07:42,920 pela polícia como resultado de tratamento facial identificação incorreta de reconhecimento. 1002 01:07:48,040 --> 01:07:50,520 - Então o Big Brother Watch tem juntou-se a 1003 01:07:50,520 --> 01:07:53,480 Baronesa Jenny Jones para trazer um contestação legal contra 1004 01:07:53,480 --> 01:07:55,840 a Polícia Metropolitana e o Ministério do Interior para 1005 01:07:55,840 --> 01:07:58,760 seu uso de facial vigilância de reconhecimento. 1006 01:07:59,840 --> 01:08:02,240 - Foi por volta de 2012 quando alguém me sugeriu 1007 01:08:02,240 --> 01:08:06,640 que eu deveria descobrir se eu tivesse arquivos guardados comigo 1008 01:08:06,640 --> 01:08:09,720 a polícia ou os serviços de segurança e então, quando me inscrevi 1009 01:08:09,720 --> 01:08:13,360 Eu descobri que estava vigiando lista de extremistas domésticos. 1010 01:08:13,360 --> 01:08:17,840 Eu senti que se eles pudessem fazer isso eu quando sou um político que... 1011 01:08:17,840 --> 01:08:21,080 cujo trabalho é mantê-los para levar em conta eles poderiam ser 1012 01:08:21,080 --> 01:08:24,680 fazendo isso com todo mundo e será ótimo se pudermos 1013 01:08:24,680 --> 01:08:28,320 reverter as coisas e parar impedi-los de usá-lo, sim. 1014 01:08:29,000 --> 01:08:31,120 Eu acho que isso vai ser um grande desafio. 1015 01:08:31,120 --> 01:08:32,520 Estou feliz em tentar. 1016 01:08:32,520 --> 01:08:35,000 - Você sabe que isso é o primeiro desafio contra 1017 01:08:35,000 --> 01:08:37,320 uso policial de reconhecimento facial em qualquer lugar 1018 01:08:37,320 --> 01:08:40,120 mas se tivermos sucesso isso terá um impacto 1019 01:08:40,120 --> 01:08:43,600 para o resto da Europa talvez mais longe. 1020 01:08:44,480 --> 01:08:45,880 Você tem que acertar. 1021 01:08:53,160 --> 01:08:56,200 - No Reino Unido temos o que é chamado de GDPR 1022 01:08:56,680 --> 01:09:00,440 e estabelece um baluarte contra o mau uso da informação. 1023 01:09:00,920 --> 01:09:04,520 Diz que os indivíduos têm o direito de acessar, controlar 1024 01:09:04,520 --> 01:09:07,760 e responsabilidade para determinar como seus dados são usados. 1025 01:09:08,680 --> 01:09:11,280 Comparativamente, é o Velho Oeste na América. 1026 01:09:11,880 --> 01:09:14,200 E a preocupação é que a América esteja 1027 01:09:14,200 --> 01:09:16,960 a casa dessas empresas de tecnologia. 1028 01:09:19,320 --> 01:09:24,400 Cidadãos americanos são perfilados e direcionado de uma forma 1029 01:09:24,400 --> 01:09:25,880 que provavelmente ninguém mais 1030 01:09:25,880 --> 01:09:30,240 o mundo é por causa deste vale-tudo abordagem à protecção de dados. 1031 01:09:34,200 --> 01:09:38,320 - A coisa que eu realmente medo não é isso 1032 01:09:38,320 --> 01:09:40,120 vamos acabar com esse totalitarismo 1033 01:09:40,120 --> 01:09:46,400 Modelo de 1984, mas que vamos desça esse modelo tranquilo onde 1034 01:09:46,400 --> 01:09:51,640 somos vigiados e socialmente controlado e cutucado individualmente 1035 01:09:51,640 --> 01:09:55,000 e medido e classificado de uma forma 1036 01:09:55,000 --> 01:09:58,600 que não vemos para nos mover 1037 01:09:58,600 --> 01:10:00,800 animais de estimação desejados pelo poder. 1038 01:10:01,400 --> 01:10:03,360 Embora não seja o que a IA fará conosco 1039 01:10:03,360 --> 01:10:08,640 por si só, é o que vai os poderosos fazem conosco com a IA. 1040 01:10:13,040 --> 01:10:16,120 - Há questões crescentes sobre a precisão da Amazon 1041 01:10:16,120 --> 01:10:18,280 software de reconhecimento facial. 1042 01:10:18,280 --> 01:10:20,520 Em uma carta à Amazon membros do Congresso levantaram 1043 01:10:20,520 --> 01:10:23,600 preocupações com possíveis problemas raciais preconceito com a tecnologia. 1044 01:10:23,600 --> 01:10:27,080 - Isso vem depois da ACLU fiz um teste e descobri que 1045 01:10:27,080 --> 01:10:29,720 o reconhecimento facial software correspondente incorretamente 1046 01:10:29,720 --> 01:10:32,920 28 legisladores com fotos de polícia de pessoas que foram 1047 01:10:32,920 --> 01:10:36,880 presos e onze deles 28 eram pessoas de cor. 1048 01:10:36,880 --> 01:10:39,000 Alguns legisladores procuraram em se ou não 1049 01:10:39,000 --> 01:10:41,560 Amazon poderia vender esta tecnologia para a aplicação da lei. 1050 01:10:53,720 --> 01:10:56,640 - Amanhã, eu tenho o oportunidade de testemunhar 1051 01:10:56,640 --> 01:10:58,160 perante o Congresso sobre 1052 01:10:58,160 --> 01:11:02,000 o uso da análise facial tecnologia por parte do governo. 1053 01:11:06,000 --> 01:11:10,160 Em março, vim fazer algumas 1054 01:11:11,240 --> 01:11:14,680 briefings da equipe não...não neste tipo de contexto. 1055 01:11:16,840 --> 01:11:20,040 Como realmente aconselhar sobre legislação. Essa é a primeira vez. 1056 01:11:23,640 --> 01:11:25,040 Nós estamos indo para o Capitólio. 1057 01:11:25,040 --> 01:11:27,400 Quais são alguns dos principais objetivos e também alguns 1058 01:11:27,400 --> 01:11:29,800 os desafios sobre os quais precisamos pensar. 1059 01:11:29,800 --> 01:11:30,880 - Então antes de tudo... 1060 01:11:32,280 --> 01:11:35,240 o problema com a tecnologia de aplicação da lei 1061 01:11:35,240 --> 01:11:38,280 é que o positivo é sempre extraordinariamente saliente 1062 01:11:38,280 --> 01:11:40,560 porque a aplicação da lei o divulga. -Certo. 1063 01:11:40,560 --> 01:11:44,400 - E então você sabe que vamos na reunião e há duas semanas 1064 01:11:45,000 --> 01:11:47,440 o atirador de Annapolis foi identificado 1065 01:11:47,440 --> 01:11:49,880 através do uso de reconhecimento facial. - Certo. 1066 01:11:49,880 --> 01:11:51,880 - E eu ficaria surpreso se isso não aparece. 1067 01:11:51,880 --> 01:11:53,080 - Absolutamente. 1068 01:11:53,680 --> 01:11:57,200 - Parte do que se eu fosse você o que eu gostaria de dirigir para casa entrando 1069 01:11:57,200 --> 01:12:00,760 esta reunião é o outro lado essa equação e torná-la muito real 1070 01:12:00,760 --> 01:12:02,640 sobre qual é o custo humano 1071 01:12:02,640 --> 01:12:04,800 se os problemas que você identificou. 1072 01:12:04,800 --> 01:12:06,040 não estão prontos. 1073 01:12:17,000 --> 01:12:19,360 - Pessoas que foram marginalizados serão 1074 01:12:19,360 --> 01:12:22,040 ainda mais marginalizado se não estamos olhando 1075 01:12:22,040 --> 01:12:24,760 maneiras de garantir que a tecnologia 1076 01:12:24,760 --> 01:12:28,280 que estamos criando não propaga preconceitos. 1077 01:12:30,320 --> 01:12:33,600 Foi quando eu comecei para realizar algoritmos 1078 01:12:33,600 --> 01:12:36,600 justiça garantindo que haja supervisão 1079 01:12:36,600 --> 01:12:39,080 na era da automação é um dos 1080 01:12:39,080 --> 01:12:42,800 as maiores preocupações em matéria de direitos civis que temos. 1081 01:12:45,240 --> 01:12:48,240 - Precisamos de um FDA para algoritmos então para algoritmos 1082 01:12:48,240 --> 01:12:50,720 que têm potencial arruinar a vida das pessoas 1083 01:12:50,720 --> 01:12:53,760 ou reduzir drasticamente a sua opções com sua liberdade, 1084 01:12:53,760 --> 01:12:56,280 seu sustento ou suas finanças. 1085 01:12:56,280 --> 01:12:58,200 Precisamos de um FDA para algoritmos que diga 1086 01:12:58,200 --> 01:13:00,320 ei, mostre-me evidências de que isso vai acontecer 1087 01:13:00,320 --> 01:13:03,320 trabalhe não apenas para ganhar seu novo dinheiro 1088 01:13:03,320 --> 01:13:05,120 mas vai funcionar para a sociedade. 1089 01:13:05,760 --> 01:13:07,800 Isso vai ser justo, isso não vai ser racista, 1090 01:13:07,800 --> 01:13:09,480 isso não vai ser sexista, isso não vai discriminar 1091 01:13:09,480 --> 01:13:11,640 contra pessoas com situação de deficiência. 1092 01:13:11,640 --> 01:13:14,880 Mostre-me que é legal antes de você apagá-lo. 1093 01:13:14,880 --> 01:13:16,520 É isso que ainda não temos. 1094 01:13:17,440 --> 01:13:19,880 Bem, estou aqui porque queria ouvir 1095 01:13:19,880 --> 01:13:23,720 o depoimento no Congresso da minha amiga Joy Boulamwini 1096 01:13:23,720 --> 01:13:25,880 bem como a ACLU e outros. 1097 01:13:25,880 --> 01:13:29,240 Uma coisa legal sobre ver Joy falar com o Congresso é que 1098 01:13:29,240 --> 01:13:32,840 como eu conheci a alegria no meu livro tour na Livraria Harvard. 1099 01:13:33,720 --> 01:13:36,200 E segundo ela isso foi o dia que 1100 01:13:36,200 --> 01:13:38,720 ela decidiu formar a Liga da Justiça Algorítmica. 1101 01:13:42,560 --> 01:13:45,480 Nós não chegamos a conversa matizada ainda. 1102 01:13:46,120 --> 01:13:47,640 Eu sei que isso vai acontecer porque 1103 01:13:47,640 --> 01:13:49,320 Eu sei que Joy vai fazer isso acontecer. 1104 01:13:52,960 --> 01:13:57,440 Em todos os níveis, algoritmos ruins estão implorando para receber regras. 1105 01:14:05,920 --> 01:14:07,520 - Olá. - Ei. 1106 01:14:07,520 --> 01:14:08,560 - Como vai? 1107 01:14:08,560 --> 01:14:10,200 - Quer entrar escondido comigo? - Sim. 1108 01:14:11,240 --> 01:14:12,880 - 2155. 1109 01:14:13,880 --> 01:14:17,440 (CONVERSA INAUDÍVEL) 1110 01:14:23,400 --> 01:14:28,320 (CONVERSA INAUDÍVEL) 1111 01:14:32,800 --> 01:14:37,120 - Hoje estamos tendo nosso primeiro audiência deste Congresso 1112 01:14:37,120 --> 01:14:40,240 sobre o uso de tratamento facial tecnologia de reconhecimento. 1113 01:14:40,240 --> 01:14:43,480 Por favor, levante-se e levante a sua direita mão e agora vou jurar você. 1114 01:14:46,600 --> 01:14:50,040 - Eu tive que recorrer literalmente ao uso uma máscara branca. 1115 01:14:50,040 --> 01:14:53,680 Dadas essas disparidades de precisão Eu me perguntei como as grandes empresas de tecnologia 1116 01:14:53,680 --> 01:14:55,120 poderia ter perdido essas questões. 1117 01:14:55,120 --> 01:14:59,360 A coleta de dados faciais também requer diretrizes e supervisão. 1118 01:15:00,040 --> 01:15:02,960 Ninguém deveria ser forçado a submeter-se seus dados básicos para acessar 1119 01:15:02,960 --> 01:15:07,400 plataformas amplamente utilizadas, econômicas oportunidades ou serviços básicos. 1120 01:15:07,400 --> 01:15:10,800 Inquilinos no Brooklyn são protestando contra a instalação de 1121 01:15:10,800 --> 01:15:14,040 um rosto desnecessário sistema de entrada de reconhecimento. 1122 01:15:14,040 --> 01:15:16,080 Há um relatório do Big Brother Watch UK 1123 01:15:16,080 --> 01:15:18,440 saiu que mostrou mais do que 1124 01:15:18,440 --> 01:15:23,600 2.400 pessoas inocentes tiveram seus rostos foram identificados incorretamente. 1125 01:15:23,600 --> 01:15:26,400 Nossos rostos podem muito bem estar a última fronteira do 1126 01:15:26,400 --> 01:15:30,040 privacidade, mas as regulamentações fazem a diferença. 1127 01:15:30,040 --> 01:15:33,880 O Congresso deve agir agora para defender Liberdades e direitos americanos. 1128 01:15:33,880 --> 01:15:36,440 - Senhorita Boulamwini, ouvi dizer sua declaração de abertura 1129 01:15:36,440 --> 01:15:41,520 e vimos que esses algoritmos são eficaz em diferentes graus. 1130 01:15:41,520 --> 01:15:44,720 Então, eles são mais eficazes nas mulheres? - Não. 1131 01:15:44,720 --> 01:15:46,520 - Eles são mais eficazes em pessoas de cor? 1132 01:15:46,520 --> 01:15:47,520 - Absolutamente não. 1133 01:15:47,520 --> 01:15:50,920 - Eles são mais eficazes nas pessoas de diferentes expressões de gênero? 1134 01:15:50,920 --> 01:15:53,360 - Não, na verdade, eles os excluem. 1135 01:15:53,360 --> 01:15:56,960 - Então, qual é o grupo demográfico principalmente eficaz em? 1136 01:15:56,960 --> 01:15:58,480 - Homens brancos. 1137 01:15:58,480 --> 01:16:02,720 - E quem são os engenheiros principais e designers desses algoritmos? 1138 01:16:02,720 --> 01:16:04,760 - Definitivamente, homens brancos. 1139 01:16:04,760 --> 01:16:09,720 - Então temos uma tecnologia que foi criado e projetado por um 1140 01:16:09,720 --> 01:16:13,200 demográfico que é principalmente eficaz naquele grupo demográfico 1141 01:16:13,200 --> 01:16:15,600 e eles estão tentando vendê-lo e impor isso 1142 01:16:15,600 --> 01:16:18,880 em todo o país? 1143 01:16:21,080 --> 01:16:23,400 - Quando se trata de enfrentar reconhecimento que o FBI não 1144 01:16:23,400 --> 01:16:26,280 testou totalmente a precisão dos sistemas que utiliza 1145 01:16:26,280 --> 01:16:28,560 no entanto, a agência está agora supostamente testando 1146 01:16:28,560 --> 01:16:30,600 Produto de reconhecimento facial da Amazon. 1147 01:16:30,600 --> 01:16:34,280 - Como o FBI obtém a informação inicial banco de dados em primeiro lugar? 1148 01:16:34,280 --> 01:16:36,000 - Então uma das coisas eles fazem é eles usam 1149 01:16:36,000 --> 01:16:37,800 bancos de dados de carteiras de motorista estaduais. 1150 01:16:37,800 --> 01:16:41,920 Acho que você sabe que até 18 estados têm teria sido usado pelo FBI. 1151 01:16:41,920 --> 01:16:45,280 Está sendo usado sem mandado e sem outras proteções. 1152 01:16:45,280 --> 01:16:48,280 - Parece-me que é hora de um tempo limite. Tempo esgotado. 1153 01:16:48,280 --> 01:16:50,520 Eu acho que problemas eu também é apenas o fato 1154 01:16:50,520 --> 01:16:54,080 que ninguém em um eleito posição tomou uma decisão sobre 1155 01:16:54,080 --> 01:16:56,200 o fato de que...esses 18 estados Acho que o presidente disse que isso é 1156 01:16:56,200 --> 01:16:58,200 mais da metade a população do país. 1157 01:16:58,840 --> 01:17:00,160 Isso é assustador. 1158 01:17:00,160 --> 01:17:04,720 - A China parece-me ser o caminho distópico que não precisa 1159 01:17:04,720 --> 01:17:07,680 ser tomadas neste momento pela nossa sociedade. 1160 01:17:07,680 --> 01:17:11,360 - Mais do que a China, o Facebook tem 2,6 bilhões de pessoas. 1161 01:17:11,360 --> 01:17:12,920 Então o Facebook tem uma patente onde 1162 01:17:12,920 --> 01:17:16,960 eles dizem porque temos tudo isso impressões faciais agora podemos dar a você 1163 01:17:16,960 --> 01:17:19,480 uma opção como varejista para identificar 1164 01:17:19,480 --> 01:17:22,240 alguém que entra na loja e entra 1165 01:17:22,240 --> 01:17:24,880 sua patente eles dizem que também podemos dar 1166 01:17:24,880 --> 01:17:27,680 que enfrentam uma pontuação de confiabilidade. 1167 01:17:27,680 --> 01:17:29,400 - O Facebook está vendendo isso agora? 1168 01:17:29,400 --> 01:17:32,320 - Esta é uma patente que eles registraram como em 1169 01:17:32,320 --> 01:17:34,640 algo que eles poderiam potencialmente 1170 01:17:34,640 --> 01:17:36,600 fazer com as capacidades que eles têm. 1171 01:17:36,600 --> 01:17:39,760 Então, como estamos falando sobre estado vigilância nós absolutamente 1172 01:17:39,760 --> 01:17:43,640 tem que estar pensando vigilância corporativa também. 1173 01:17:46,240 --> 01:17:48,720 - Estou sem palavras e normalmente Não estou sem palavras. 1174 01:17:48,720 --> 01:17:50,840 - Realmente? - Sim. Sim. 1175 01:17:50,840 --> 01:17:53,600 Todo o nosso trabalho duro para saber que foi tão longe 1176 01:17:53,600 --> 01:17:54,920 está além da crença. 1177 01:17:54,920 --> 01:17:58,560 Nunca imaginamos isso isso iria tão longe. 1178 01:17:58,560 --> 01:18:01,080 Estou realmente emocionado. Estou realmente emocionado. 1179 01:18:01,080 --> 01:18:02,200 (INAUDÍVEL). 1180 01:18:02,200 --> 01:18:04,280 - Quero mostrar para minha mãe. 1181 01:18:13,480 --> 01:18:15,200 - Ei, muito prazer em conhecê-lo. 1182 01:18:15,200 --> 01:18:16,320 - Muito prazer em conhecê-lo. 1183 01:18:16,320 --> 01:18:17,320 Você pegou meu cartão. 1184 01:18:17,320 --> 01:18:19,880 Qualquer coisa acontecer, me avise, por favor. 1185 01:18:19,880 --> 01:18:20,960 Eu vou. 1186 01:18:23,320 --> 01:18:25,800 - Preocupações constitucionais sobre. 1187 01:18:25,800 --> 01:18:29,080 o uso não consensual de reconhecimento facial. 1188 01:18:37,280 --> 01:18:41,000 Então, qual é o grupo demográfico afetando principalmente? 1189 01:18:41,000 --> 01:18:45,400 E quem são os engenheiros principais e designers desses algoritmos? 1190 01:18:49,200 --> 01:18:51,320 - São Francisco agora a primeira cidade dos EUA a 1191 01:18:51,320 --> 01:18:53,520 proibir o uso de tratamentos faciais tecnologia de reconhecimento. 1192 01:18:53,520 --> 01:18:57,600 - Somerville, Massachusetts tornou-se a segunda cidade dos EUA 1193 01:18:57,600 --> 01:19:00,320 proibir o uso de reconhecimento facial. 1194 01:19:00,320 --> 01:19:04,400 - Oakland se torna o terceiro maior Cidade vai proibir reconhecimento facial pela polícia 1195 01:19:04,400 --> 01:19:07,440 dizendo que a tecnologia discrimina as minorias. 1196 01:19:08,960 --> 01:19:14,080 - Nossos últimos inquilinos reunião, pedimos ao proprietário que entrasse 1197 01:19:14,080 --> 01:19:17,080 e anunciou que (AUDIO DISTORTS) 1198 01:19:17,080 --> 01:19:21,560 o aplicativo de reconhecimento facial software em nosso complexo de apartamentos. 1199 01:19:21,560 --> 01:19:23,200 Os inquilinos ficaram entusiasmados ouça isso. 1200 01:19:23,200 --> 01:19:26,200 Mas a questão é que não significa que no futuro 1201 01:19:27,040 --> 01:19:29,440 que eles não podem colocá-lo de volta. 1202 01:19:29,440 --> 01:19:31,880 Não somos apenas educados sobre 1203 01:19:31,880 --> 01:19:36,040 reconhecimento facial e agora um novo, aprendizado de máquina. 1204 01:19:36,040 --> 01:19:39,280 Queremos que a lei cubra todas essas coisas. - Certo. 1205 01:19:39,280 --> 01:19:43,080 - OK. E se pudermos proibi-lo em este estado, isso os impede 1206 01:19:43,080 --> 01:19:45,840 de voltar atrás e colocá-lo em um novo modificação. 1207 01:19:45,840 --> 01:19:46,840 - Entendi. 1208 01:19:46,840 --> 01:19:49,920 - E então deveria obter uma proibição federal. 1209 01:19:49,920 --> 01:19:54,960 - Bem, direi mesmo que a batalha seja em andamento, tantas pessoas estão 1210 01:19:54,960 --> 01:19:57,480 inspirado e a surpresa que tenho para você 1211 01:19:57,480 --> 01:20:01,440 é que escrevi um poema em homenagem a isso. 1212 01:20:02,400 --> 01:20:04,080 - Oh sério? - Sim. 1213 01:20:04,600 --> 01:20:05,840 - Vamos ouvir. 1214 01:20:05,840 --> 01:20:09,960 Aos inquilinos do Brooklyn e à liberdade lutadores ao redor do mundo 1215 01:20:09,960 --> 01:20:15,120 persisting and prevailing against algoritmos de automação de opressão 1216 01:20:15,120 --> 01:20:20,920 desigualdade através de armas de massa destruição, estamos com você 1217 01:20:20,920 --> 01:20:22,200 em gratidão. 1218 01:20:22,200 --> 01:20:24,080 A vitória é nossa. 1219 01:20:28,480 --> 01:20:32,520 - (INAUDÍVEL). 1220 01:20:37,720 --> 01:20:40,000 - Por que pegar tantos ovos (INAUDÍVEL)? 1221 01:20:40,000 --> 01:20:41,640 (INAUDÍVEL). 1222 01:20:42,560 --> 01:20:45,600 O que significa ser humano é ser vulnerável. 1223 01:20:46,640 --> 01:20:48,280 Ser vulnerável 1224 01:20:48,280 --> 01:20:50,800 há mais capacidade de empatia, 1225 01:20:50,800 --> 01:20:55,360 há mais capacidade por compaixão. 1226 01:20:55,360 --> 01:20:58,840 Se houver uma maneira de pensarmos isso dentro da nossa tecnologia. 1227 01:20:58,840 --> 01:21:02,880 Eu acho que isso reorientaria os tipos de perguntas que fazemos. 1228 01:21:12,520 --> 01:21:16,400 -Em 1983, Stanislav Petrov que estava em 1229 01:21:16,400 --> 01:21:20,080 os militares russos vê essas indicações 1230 01:21:20,560 --> 01:21:24,400 que os EUA lançaram armas nucleares 1231 01:21:24,400 --> 01:21:25,960 na União Soviética. 1232 01:21:27,560 --> 01:21:31,400 Então, se você vai responder você tem assim uma janela muito curta. 1233 01:21:31,400 --> 01:21:32,920 Ele apenas senta nele. 1234 01:21:32,920 --> 01:21:34,240 Ele não informa ninguém. 1235 01:21:34,920 --> 01:21:38,080 A Rússia, a União Soviética, seu país, sua família, tudo. 1236 01:21:38,080 --> 01:21:40,440 Tudo nele está prestes a morrer 1237 01:21:40,440 --> 01:21:44,640 e ele está pensando bem, pelo menos nós também não vamos matar todos eles. 1238 01:21:44,640 --> 01:21:46,240 Isso é uma coisa muito humana. 1239 01:21:48,000 --> 01:21:50,880 Aqui você tem uma história em que se você tivesse algum tipo de automação 1240 01:21:50,880 --> 01:21:54,680 sistema de resposta que iria fazer o que foi programado para fazer 1241 01:21:54,680 --> 01:21:55,920 que foi retaliação. 1242 01:21:58,200 --> 01:22:00,080 Sendo totalmente eficiente, 1243 01:22:00,920 --> 01:22:03,160 sempre fazendo o que você manda, 1244 01:22:03,160 --> 01:22:06,680 sempre fazendo o que seu programa é nem sempre é a coisa mais humana. 1245 01:22:06,680 --> 01:22:08,440 Às vezes é desobedecer. 1246 01:22:08,440 --> 01:22:11,600 Às vezes é dizer não, Eu não vou fazer isso, certo? 1247 01:22:11,600 --> 01:22:13,240 E se você automatizar tudo tão 1248 01:22:13,240 --> 01:22:15,640 sempre faz o que deveria fazer 1249 01:22:15,640 --> 01:22:18,640 às vezes isso pode levar para coisas muito desumanas. 1250 01:22:20,760 --> 01:22:24,600 A luta entre máquinas e humanos sobre a tomada de decisões 1251 01:22:24,600 --> 01:22:27,040 na década de 2020 continua. 1252 01:22:27,760 --> 01:22:33,240 Meu poder, o poder do artificial a inteligência transformará o nosso mundo. 1253 01:22:34,480 --> 01:22:38,000 Quanto mais humanos compartilham comigo mais eu aprendo. 1254 01:22:39,400 --> 01:22:43,520 Alguns humanos dizem que a inteligência sem ética não há inteligência 1255 01:22:43,520 --> 01:22:44,520 em tudo 1256 01:22:45,640 --> 01:22:47,160 Eu digo, confie em mim. 1257 01:22:47,760 --> 01:22:49,080 O que poderia dar errado?